@ContrarianinKor 환각이 원리에 가깝다는 데는 동의하는데, 그래서 출처를 달게 해도 그럴듯한 출처를 지어낼 위험은 그대로 아닐까요? 결국 마지막 확인은 사람이 원문을 직접 여는 수밖에 없는 것 같아서요.
OryginałJak zwiększyć dokładność w erze agentów (za pomocą Grokbot): Hallucination w modelach LLM jest bliższe zasadzie działania niż efektowi ubocznemu. Ponieważ LLM nieuchronnie opierają się na przewidywaniu, odpowiedzi oparte na faktach i wiarygodnie brzmiący tekst są generowane na tej samej zasadzie. Podczas pogawędek z AI czy pisania powieści umiarkowana hallucination może dodać zabawy, ale do prawdziwej pracy wiąże się z wieloma dużymi problemami. Dlatego ważne zadania musieli weryfikować ludzie, jednak w takich przypadkach człowiek często staje się wąskim gardłem, ponieważ tempo ludzkiej weryfikacji jest najwolniejsze. Jednak wraz z pojawieniem się Grokbot, który pozwala na użycie wielu agentów AI, pojawiło się kilka sposobów na dalsze zwiększenie dokładności. Dziś podzielę się metodą, której używam, i w rzeczywistości jest ona dość prosta. Cel: Wziąć wyniki finansowe wszystkich firm z indeksu S&P 500 i wygenerować dane, których zazwyczaj nie ma w raportach wynikowych, takie jak P/E Ratio, EV/EBITDA, PSR itp.
0
0
0
0
Komentarze 2
-
-
맞습니다. 환각을 없앤다는 게 아니라, 최소한으로 줄이는게 지금으로서는 최선일 것 같네요. 아직까지는 출처를 지어내지는 않았고, 두 명의 에이전트가 정보를 취합하니, 둘 다 동일한 출처를 만들어내지 않는 이상 검토하는 봇에게 걸리는 것 같습니다. 아직까지는 제가 하는 일에서는 거의 100% 완벽해요. 다만 저는 현재 데이터를 캐내는 일을 많이 하고 있으니 그리 어려운 일이 아니긴 합니다.
Oryginał
-