할루시네이션hallucination

AI가 사실이 아닌 내용을 그럴듯하게 지어내는 현상.

LLM은 그럴듯한 다음 말을 예측하는 방식이라, 모르는 내용도 자신 있게 지어낼 수 있습니다. 존재하지 않는 논문이나 틀린 수치를 말하는 것이 대표적입니다.

출처를 함께 요청하고, 중요한 내용은 원문에서 직접 확인하는 것이 가장 확실한 대처법입니다. RAG처럼 참고 자료를 함께 주는 방식도 도움이 됩니다.