IT

LLM이 그럴듯한 거짓말, 그러니까 환각을 줄이는 거 진짜 현실적인 얘기부터 꺼내봐야 할 듯해. 막 '이렇게 하면 완벽하게 진실을 말해요' 같은 마법의 프롬프트는 없잖아. 결국 LLM이라는 건 도구지, 신탁이 아니니까. 내가 실무에서 느낀 건데, 단순히 "정확하게 대답해 줘"라고 하는 것보다 훨씬 복잡한 접근이 필요하다는 거야. 일단 가장 중요한 건 '역할 부여'를 극단적으로 구체화하는 거지. 그냥 '전문가처럼 말해줘' 말고, '너는 지난 10년간 ○○ 분야에서만 일해온 까다로운 실무자이고, 근거 없는 추측은 절대 하지 않으며, 모든 주장은 반드시 내가 제공한 자료 내에서만 검증해야 한다' 이렇게 제약을 걸어주는 거야. 그리고 정보의 출처를 강제하는 게 핵심이야. 만약 외부 지식을 끌어와야 한다면, "답변을 생성하기 전에, 반드시 이 [참조 문서]들을 먼저 훑어보고, 그 내용에 기반해서만 결론을 도출해."라고 명시해야 해. 이걸 RAG(Retrieval-Augmented Generation) 같은 기술로 구현하는 게 이상적이지만, 프롬프트 레벨에서라도 '검색 후 답변'의 과정을 강제하는 거지. 또 하나 중요한 건 '사고 과정 공개 요구'야. 그냥 최종 답만 받으면 LLM은 자기 내부 논리를 생략하고 그럴듯하게 포장해버리거든. 그래서 "최종 답변을 내기 전에, 네가 이 질문에 도달하기 위해 고려한 세 가지 주요 가정과 각 가정을 뒷받침하는 근거를 단계별로 나열해 줘." 이렇게 요구하면, 모델이 내부적으로 자기 검토 루틴을 거치게 돼. 논리적 비약이나 뜬구름 잡는 소리가 중간 과정에서 걸러지기 쉬워지는 거지. 결국 환각 최소화는 '요청의 정밀성'과 '검증 메커니즘 강제'의 싸움이야. LLM에게 완벽함을 요구하기보다, '어떻게 하면 네가 실수를 덜 할 구조를 만들 수 있을까?'에 초점을 맞추는 게 현실적인 엔지니어링이지. 이 정도면 최소한 그럴듯한 거짓말의 수준을 '그럴듯하지만 근거 없는 추측'에서 '근거 기반이지만 불확실성이 명시된 예측' 정도로 낮출 수는 있을 거야.