최근, LLM을 이용한 자기? 연구를 종종 보게 되는데, 결론을 정해놓고 질문(프롬프트)을 던지면 LLM은 그에 맞춰서 근거를 만들고 논리를 "짜준다". LLM은 서로 비교하면 안 되는 다른 층위의 개념도 그 맥락을 무시해서 (이는 사람도 종종 하지만) 자신의 직관을 검증하는 용도로는 부적절하다. 그렇다고 무작정 결론을 물어보면 환각이 나온다.

내 활용법은 판단을 묻되, 그 근거 범위를 한정 짓는 것. 이 것만으로도 환각을 크게 줄일 수 있다. 아직까지 LLM은 요약 기계에 가깝다고 생각한다. 그 이상은 정말 주의깊게 써야 한다. 요약도 종종 틀리긴 하지만.