클로드가 건강 질문 피했다면, 이유가 있었다

✓ 앤트로픽이 클로드의 생물학 관련 오탐 답변 거부를 85% 줄였다
✓ 이전엔 일반적인 건강 질문도 위험 요청으로 잘못 분류되는 경우가 많았다
✓ 원인은 안전장치가 너무 넓게 차단하도록 짜여 있었기 때문
✓ 위험한 질문 자체를 허용한 게 아니라 판단 기준을 정교하게 재작성한 것

클로드한테 그냥 평범한 건강 질문 하나 던졌는데 "이 요청은 도와드릴 수 없습니다"라는 답이 돌아온 경험, 혹시 있으신가요? 혼자만 겪은 문제가 아니었습니다. 앤트로픽이 최근 클로드의 생물학 안전 분류기를 개선하면서, 이런 식의 오탐 답변 거부가 85% 줄었다고 밝혔습니다. 결론부터 말하면, 문제는 사용자 질문이 아니라 판단 기준이 너무 거칠게 짜여 있었다는 데 있었습니다.

왜 자꾸 답을 피했나

클로드처럼 강력한 AI 모델은 생물학·화학처럼 악용 가능성이 있는 분야의 질문이 들어오면, 안전을 위해 더 낮은 성능의 모델로 자동 전환해서 답하도록 설계돼 있습니다. 문제는 초기 버전에서 이 분류 기준이 너무 넓게 잡혀 있었다는 점입니다. 일상적인 건강 질문이나 생물학 공부, 연구를 위한 정상적인 질문까지 위험 요청으로 잘못 판단해서, 필요 이상으로 자주 답변 품질이 떨어지는 모델로 넘어가곤 했습니다.

뭘 바꿨길래 85%나 줄었나

근데 여기서 진짜 중요한 건, 안전 기준 자체를 느슨하게 푼 게 아니라는 점입니다. 앤트로픽은 허용 가능한 생물학 활용 사례를 훨씬 구체적으로 분류하고, 그에 맞는 학습 데이터를 새로 구축해서 분류기를 다시 훈련시켰습니다. 즉 위험한 요청을 걸러내는 기준은 그대로 유지하면서, '무엇이 정상적인 질문인지'를 더 세밀하게 가르친 겁니다. 그 결과 정상적인 생물학 관련 요청이 잘못 차단되는 비율이 크게 줄었습니다.

구분	이전	개선 후
판단 기준	넓은 범위 일괄 차단	허용 사례 세분화
일반 건강 질문	종종 오탐 차단	대부분 정상 응답
위험 요청 차단	유지	동일하게 유지

그래도 여전히 막히는 질문은 있습니다

오탐이 줄었다고 해서 모든 생물학 관련 요청이 다 통과되는 건 아닙니다. 사이버보안, 화학, AI 기술 복제처럼 실제로 악용 가능성이 높은 영역은 여전히 더 낮은 성능의 모델로 자동 전환되는 구조가 유지됩니다. 앤트로픽은 이 장치가 전체 세션의 5% 미만에서만 작동한다고 밝혔는데, 뒤집어 말하면 나머지 95% 이상의 일상적인 질문에서는 오탐 걱정 없이 정상적인 답변을 받을 수 있다는 뜻입니다.

⚠️ 주의할 점: 안전장치가 개선됐다고 해서 클로드가 의료 진단이나 처방을 대신해주는 건 아닙니다. 건강 관련 정보를 얻을 때는 참고용으로만 활용하고, 실제 진단·치료 판단은 반드시 의료 전문가와 상담해야 합니다.

💡 팁: 만약 평범한 질문인데도 답변을 거부당했다면, 질문을 더 구체적인 맥락과 함께 다시 물어보는 걸 추천합니다. "이건 학교 과제로 조사하는 거야" 같은 맥락 정보를 덧붙이면 분류기가 정상 요청으로 더 잘 인식하는 경우가 많습니다.

이런 분들이 체감할 만합니다

공부나 연구 목적으로 생물학·건강 관련 질문을 자주 하는 분, 예전에 클로드가 별 이유 없이 답을 거부해서 답답했던 경험이 있는 분이라면 이번 개선을 체감하실 가능성이 높습니다. 반대로 애초에 이런 주제를 잘 안 다뤘던 분이라면 큰 변화를 느끼지 못할 수도 있습니다.

그래서 결론은, AI가 위험한 질문을 걸러내는 기준 자체는 그대로 두면서도 정상적인 질문까지 억울하게 막히는 일은 줄이는 방향으로 다듬어지고 있다는 겁니다. 안전과 편의 둘 다 챙기려는 시도가 계속되고 있는 셈입니다.

개선 내용
생물학 오탐 답변 거부 85% 감소

방식
허용 사례 세분화 후 재학습

위험 요청
차단 기준은 그대로 유지

주의할 점
의료 판단은 전문가 상담 필수