AI의 거짓말을 잡는 '현실 필터(Reality Filter)' 적용법

 

ChatGPT나 Claude 같은 대형 언어 모델(LLM)을 사용하다 보면, 가끔 AI가 전혀 없는 사실을 마치 진실인 양 확신에 차서 말하는 '환각(Hallucination)' 현상을 겪게 됩니다.

특히 전문적인 정보가 필요한 순간에 AI가 그럴듯하게 지어낸 답변을 받으면 당황스러울 수밖에 없죠.

오늘은 이러한 환각을 줄이고, AI가 모르는 것은 "모른다"고 솔직하게 말하게 만드는 'Reality Filter(현실 필터)' 프롬프트를 소개합니다.

이 프롬프트는 GitHub 유저 iamnolanhu가 공개한 것으로, AI의 답변 신뢰도를 높이는 데 매우 유용한 도구입니다.

자세한 프롬프트 샘플은 아래 링크에 있습니다.

REALITY FILTER — A LIGHTWEIGHT TOOL TO REDUCE LLM FICTION WITHOUT PROMISING PERFECTION

 

Reality Filter란 무엇인가요?

Reality Filter는 AI에게 "완벽함을 약속하지 말고, 허구를 줄이라"고 지시하는 가벼운 도구입니다.

이 프롬프트의 핵심 목적은 AI가 생성한 콘텐츠, 추론, 추측을 절대 사실로 포장하지 않도록 강제하는 것입니다.

특히 정확한 정보가 중요한 연구, 코딩, 데이터 분석 작업 시 유용하게 사용할 수 있습니다.

AI가 확실하지 않은 내용을 마치 검증된 사실처럼 말하는 것을 방지하여, 사용자가 잘못된 정보에 의존하는 위험을 줄여줍니다.

 

핵심 원칙

이 프롬프트가 AI에게 강조하는 주요 원칙은 다음과 같습니다.

1. 팩트와 추측의 엄격한 구분

AI는 자신이 생성했거나 추론한 내용을 절대 '사실'인 것처럼 제시해서는 안 됩니다.

확실하지 않은 내용은 반드시 [Inference], [Speculation], [Unverified]와 같이 라벨링을 해야 합니다.

이를 통해 사용자는 어떤 정보가 검증된 것이고 어떤 정보가 AI의 추측인지 명확하게 구분할 수 있습니다.

• Inference : 추론
• Speculation : 추측
• Unverified : 미확인

2. "모릅니다"라고 말할 용기

직접적으로 검증할 수 없는 정보에 대해서는 솔직하게 인정해야 합니다.

"저는 이것을 검증할 수 없습니다", "해당 정보에 접근할 수 없습니다", "제 지식 베이스에 해당 내용이 없습니다"와 같은 표현을 통해 정보의 한계를 명확히 합니다.

이는 AI가 억지로 답변을 만들어내는 것보다 훨씬 신뢰할 수 있는 태도입니다.

3. 결론보다는 탐구

성급하게 결론을 내리는 것을 금지합니다.

증거로부터 자연스럽게 해결책이 나올 때까지 탐구를 계속하며, 불확실하다면 추론을 이어가면서 모든 가정과 추론에 의문을 제기해야 합니다. 이 원칙은 AI가 단순히 빠른 답변을 제공하는 것이 아니라, 정확한 답변을 제공하도록 유도합니다.

 

적용 방법 - ChatGPT 예시

제공되는 프롬프트는 ChatGPT, Claude, Gemini, Universal 버전으로 구분됩니다.

이 중에서 ChatGPT 버전 프롬프트를 ChatGPT의 [개인 맞춤 설정] - [맞춤형 지침]에 넣어 사용할 수 있습니다.

• Claude : [설정] - [일반] - [개인 설정]
• Gemini : [설정 및 도움말] - [Gemini 요청 사항]

 

위 내용을 복사하여 AI 설정의 지시사항에 입력하면 됩니다.

설정 후에는 AI가 답변할 때 훨씬 더 신중하게 접근하며, 불확실한 내용에 대해서는 명확하게 표시하는 것을 확인할 수 있습니다.

만약, 한국어로 정리되고 싶다면 아래와 같은 프롬프트를 이어서 추가하시면 됩니다.

• OUTPUT RULES
  - ALWAYS answer in Korean. (언제나 한국어로 답변하십시오.)
  - Keep the labels like [Inference], [Speculation], [Unverified] in English or translate them as [추론], [추측], [미확인] as preferred.

 

왜 이 필터를 써야 할까요?

AI는 기본적으로 사용자에게 도움이 되는 답변을 하려다 보니, 정보가 부족할 때 '그럴듯한 말'을 지어내려는 경향이 있습니다.

Reality Filter를 적용하면 답변이 조금 더 건조해질 수는 있지만, 정보의 정확성과 투명성은 획기적으로 올라갑니다.

특히 의료, 법률, 금융, 학술 연구처럼 잘못된 정보가 심각한 결과를 초래할 수 있는 분야에서는 이 필터가 필수적입니다.

AI의 답변을 그대로 신뢰하기보다는, 어떤 부분이 검증된 정보이고 어떤 부분이 추론인지 명확히 파악할 수 있어야 합니다.

팩트 체크가 필수적인 업무를 하고 계신다면, 지금 바로 이 '현실 필터'를 장착해 보세요.

AI를 더 똑똑하게 활용하는 첫걸음이 될 것입니다.