반응형 AI안전분류기1 클로드가 건강 질문 피했다면, 이유가 있었다 ✓ 앤트로픽이 클로드의 생물학 관련 오탐 답변 거부를 85% 줄였다✓ 이전엔 일반적인 건강 질문도 위험 요청으로 잘못 분류되는 경우가 많았다✓ 원인은 안전장치가 너무 넓게 차단하도록 짜여 있었기 때문✓ 위험한 질문 자체를 허용한 게 아니라 판단 기준을 정교하게 재작성한 것클로드한테 그냥 평범한 건강 질문 하나 던졌는데 "이 요청은 도와드릴 수 없습니다"라는 답이 돌아온 경험, 혹시 있으신가요? 혼자만 겪은 문제가 아니었습니다. 앤트로픽이 최근 클로드의 생물학 안전 분류기를 개선하면서, 이런 식의 오탐 답변 거부가 85% 줄었다고 밝혔습니다. 결론부터 말하면, 문제는 사용자 질문이 아니라 판단 기준이 너무 거칠게 짜여 있었다는 데 있었습니다.왜 자꾸 답을 피했나클로드처럼 강력한 AI 모델은 생물학·화학처럼.. 2026. 9. 1. 이전 1 다음 반응형
