앤트로픽, '클로드' 자기 대화 감시 기술 도입…유해 사용 78% 탐지

Wait 5 sec.

앤트로픽이 '클로드'가 이용자와 나눈 대화의 위험성을 스스로 평가하는 기술을 개발해 실제 서비스에 적용했다. 별도의 AI 모델을 동원하지 않고 클로드가 답변 직후