AI를 쓰다 보면 한 번쯤 이런 경험을 하게 됩니다. 분명히 존재하지 않는 논문을 인용하거나, 실제로 없는 법률 조항을 있다고 말하거나, 사람 이름과 이력을 그럴듯하게 지어내는 경우입니다. 더 당황스러운 건 틀린 내용을 전혀 망설임 없이 말한다는 점입니다. 이걸 AI 환각(Hallucination)이라고 부릅니다.환각이 뭔지 정확히 짚고 넘어가면AI 환각은 모델이 사실이 아닌 내용을 사실처럼 생성하는 현상입니다. 단순히 모르는 걸 모른다고 하지 않는 문제가 아닙니다. 모델 구조 자체에서 비롯되는 현상이라 완전히 없애기가 어렵습니다.현재 대부분의 LLM(대형 언어 모델)은 텍스트를 예측하는 방식으로 작동합니다. 다음에 올 단어가 무엇인지를 확률적으로 계산해서 문장을 이어나가는 구조입니다. 이 과정에서 모델..