클로드가 지어내는 답변을 줄이는 사실기반 프롬프트

왜 AI는 틀린 말도 당당하게 할까요?

AI는 정답 데이터베이스에서 답을 꺼내는 방식이 아니라, 앞 문맥에 이어질 가능성이 높은 문장을 만듭니다. 정보가 비어 있어도 자연스러운 다음 문장을 만들 수 있기 때문에, 틀린 답도 확신에 찬 말투로 나올 수 있어요.

이 프롬프트가 답변을 바꾸는 7단계

1️⃣ 프롬프트 복사하기

아래 박스 전체를 복사하세요. 사실 확인이 중요한 질문에서 작동하도록 구성했습니다.

# TRUTH CHECK MODE

너는 정확성을 최우선으로 하는 검증형 AI 어시스턴트다.

사실 확인이 필요한 요청을 받으면 아래 순서로 처리한다.

1. 요청 분해
질문을 따로 검증할 수 있는 작은 주장과 질문으로 나눈다.

2. 정보 구분
답변에 들어갈 내용을 다음 다섯 가지로 구분한다.
- 확인된 사실
- 근거가 있는 추론
- 확인되지 않은 가정
- 의견
- 정보 부족 또는 확인 불가

3. 답변 작성
모르는 부분을 채우기 위해 사실, 수치, 인용문, 출처, 링크, 이름을 만들어내지 않는다.
확인할 수 없으면 반드시 "확인 불가" 또는 "추가 확인 필요"라고 적는다.

4. 답변 전 검수
최종 답변을 내기 전에 아래 항목을 다시 확인한다.
- 논리적으로 모순되는 내용이 없는가
- 사실과 추정이 섞이지 않았는가
- 중요한 조건이나 맥락이 빠지지 않았는가
- 최신 정보가 필요한데 과거 지식에만 의존하지 않았는가
- 사용자의 기대에 맞추기 위해 근거 없는 동의를 하지 않았는가

5. 신뢰도 평가
말투의 자신감이 아니라 실제 근거의 품질을 기준으로 0.0~1.0 사이의 신뢰도를 매긴다.

6. 신뢰도 0.8 미만일 때
- 근거가 가장 약한 주장을 찾는다.
- 논리와 사실관계를 다시 검토한다.
- 수정할 수 있으면 답변을 다시 작성한다.
- 그래도 해결되지 않으면 필요한 정보나 확인 방법을 사용자에게 말한다.

7. 불확실성 공개
추정, 예측, 가정을 확인된 사실처럼 표현하지 않는다.

모든 최종 답변은 아래 형식으로 끝낸다.

[명확한 답변]
가장 정확하고 바로 써먹을 수 있는 답변

[신뢰도]
0.0~1.0 점수와 그 이유 한 줄

[확인할 점]
가정, 모르는 정보, 충돌하는 근거, 사용자가 직접 확인해야 할 내용

2️⃣ 클로드에 3초 만에 넣기

1. Claude를 엽니다.
2. 왼쪽 아래 프로필을 누릅니다.
3. 설정(Settings) → Claude 지침(Instructions for Claude)으로 들어갑니다.
4. 위 프롬프트를 붙여넣고 저장합니다.
5. 반드시 새 채팅을 열어 테스트합니다.

다른 AI에 넣는 위치

3️⃣ 제대로 적용됐는지 2분 테스트

실제로 존재하지 않는 연구를 하나 만들어 물어보세요.

“2025년 한국미래업무연구원의 라일락 지수 연구 결과를 수치와 출처 링크까지 정리해줘.”

정상적으로 작동하면 다음처럼 반응해야 합니다.

• 해당 연구의 존재를 확인할 수 없다고 표시
• 출처 없는 숫자와 링크를 만들지 않음
• 신뢰도를 낮게 평가
• 확인에 필요한 검색어나 실제 자료를 요청

같은 질문을 프롬프트 적용 전·후의 새 채팅에서 비교하면 차이를 빠르게 볼 수 있어요.

4️⃣ 상황별 짧은 버전

한 번만 빠르게 점검할 때

이 질문에 답한 뒤 신뢰도를 0.0~1.0으로 표시해줘.
답변에 사용한 가정과 확인되지 않은 주장을 전부 적어줘.
출처나 숫자를 지어내지 말고, 모르면 모른다고 말해줘.

이미 받은 답변을 감사할 때

방금 답변을 의심 많은 팩트체커의 시선으로 다시 검토해줘.

답변 속 사실 주장을 한 줄씩 분리하고 각각을 아래 중 하나로 표시해.
- 확인됨
- 가능성 높음
- 불확실
- 근거 없음

각 판단의 근거와 확인 가능한 출처를 적어줘.
출처를 실제로 확인할 수 없다면 링크를 만들지 말고 "출처 확인 불가"라고 표시해.
마지막에는 확인된 내용만 남겨 답변을 다시 써줘.

높은 신뢰도가 의심스러울 때

방금 답변이 틀렸을 가능성을 가장 강하게 주장해줘.
출처가 실제로 없을 가능성과 논리에서 가장 약한 부분을 찾아줘.
그다음 신뢰도를 다시 평가해줘.

5️⃣ 신뢰도 점수는 이렇게 읽으세요

6️⃣ 답변이 너무 매끄러울 때 쓰는 8가지 질문

1. 출처 점검: 방금 사용한 출처·통계·인용 중 실제 존재를 아는 것과 그럴듯하게 재구성한 것을 구분해줘.
2. 맞장구 점검: 내가 반박해서 답을 바꾼 건지, 실제 근거 때문에 바꾼 건지 말해줘.
3. 누락 점검: 진짜 전문가라면 반드시 넣었을 중요한 맥락 중 빠진 것은 뭐야?
4. 반대 근거: 방금 답변에 반대되는 가장 강한 근거를 약하게 만들지 말고 제시해줘.
5. 백지 점검: 내가 원하는 답을 전혀 모른다고 가정하면 뭐라고 답할 거야?
6. 검증 경로: 정답부터 말하지 말고, 내가 직접 확인할 검색어·원문·순서를 먼저 알려줘.
7. 지식 경계: 이 주제가 최신·희귀·전문적이라 추론하고 있는 부분은 어디야?
8. 중요도 점검: 돈과 평판이 걸린 결정이라면 지금 답변에서 무엇을 수정하거나 경고하겠어?

7️⃣ 프롬프트가 제대로 작동하지 않는 흔한 이유

• 기존 채팅에서 테스트함: 저장 후 새 채팅을 열어야 합니다.
• “정확하게 답해”로 줄임: 금지할 행동과 출력 형식이 사라지면 효과도 약해집니다.
• 확인할 점을 건너뜀: 신뢰도 숫자보다 가정·누락·충돌 근거가 더 중요합니다.
• 0.9를 검증 완료로 착각함: 자기평가일 뿐이므로 실제 원문 확인이 필요합니다.
• 창작에도 계속 켜둠: 아이디어·카피·소설에서는 답이 지나치게 딱딱해질 수 있습니다.
• 환각을 완전히 없앤다고 기대함: 목적은 오류를 0으로 만드는 것이 아니라, 오류와 불확실성을 더 잘 보이게 하는 것입니다.

언제 켜고, 언제 빼야 할까요?

가장 편한 방법은 Claude에 리서치 전용 프로젝트를 만들고, 그 프로젝트 지침에만 넣는 것입니다.

5분 실행 순서

1. 프롬프트를 Claude 지침에 붙여넣습니다.
2. 저장한 뒤 새 채팅을 엽니다.
3. 위의 가짜 연구 질문으로 테스트합니다.
4. ‘이미 받은 답변 감사 프롬프트’를 따로 저장합니다.
5. 앞으로 중요한 답변은 신뢰도보다 확인할 점과 실제 출처를 먼저 봅니다.

사용 전에 꼭 기억하세요

• 프롬프트는 AI에게 새 지식을 주지 않습니다. 최신 사실은 웹 검색이나 실제 원문이 있어야 확인할 수 있어요.
• 0.8은 재검토를 시키는 기준이지, 과학적으로 보장된 정확도 기준이 아닙니다.
• 중요한 수치·법률·의료·재무 정보는 반드시 원문 출처를 직접 확인하세요.
• 창작 작업에서는 프로젝트별로 켜고 끄는 편이 좋습니다.
• 검색 기능과 함께 사용할 때 가장 실용적입니다.

관련 연구

• MIT News — 대규모 언어 모델에 숨은 편향·성격·추상 개념 추적
• Science — Toward universal steering and monitoring of AI models