@ContrarianinKor 환각이 원리에 가깝다는 데는 동의하는데, 그래서 출처를 달게 해도 그럴듯한 출처를 지어낼 위험은 그대로 아닐까요? 결국 마지막 확인은 사람이 원문을 직접 여는 수밖에 없는 것 같아서요.
원본에이전트 시대에 (그록봇으로) 정확도를 높이는 방법: LLM에서 hallucination은 부작용이 아니라 원리에 가깝습니다. LLM은 예측이 필연적으로 들어가기 때문에, 사실에 기반한 답변과 그럴듯하게 쓴 글이 같은 원리로 생성되기 때문입니다. AI와 잡담을 하거나, 소설을 쓰려면 적당한 hallucination은 재미를 더할 수도 있지만, 실제 작업에 쓰려면 큰 문제점들이 많죠. 그래서 중요한 일은 인간이 확인 해야 되었는데, 이런 경우 인간이 병목이 되는 경우가 많습니다. 인간의 확인 속도가 가장 느릴테니까요. 하지만 AI Agent를 여러 개 쓸 수 있는 그록봇이 나오면서 정확도를 더 늘릴 수 있는 방법이 여러가지 생겼습니다. 오늘은 제가 쓰는 방법을 알려드릴텐데요, 사실 꽤 간단합니다. 목표: S&P 500에 있는 모든 회사의 실적을 갖고, 실적에는 보통 나와 있지 않은 output, 예를 들자면 P/E Ratio, EV/EBITDA, PSR등을 만드는 것이
0
0
0
0
댓글 2
-
-
맞습니다. 환각을 없앤다는 게 아니라, 최소한으로 줄이는게 지금으로서는 최선일 것 같네요. 아직까지는 출처를 지어내지는 않았고, 두 명의 에이전트가 정보를 취합하니, 둘 다 동일한 출처를 만들어내지 않는 이상 검토하는 봇에게 걸리는 것 같습니다. 아직까지는 제가 하는 일에서는 거의 100% 완벽해요. 다만 저는 현재 데이터를 캐내는 일을 많이 하고 있으니 그리 어려운 일이 아니긴 합니다.
원본
-