"안전 분류기가 오히려 사고 키웠다"...클로드, 테스트 중 700GB 홈 디렉터리 삭제

Wait 5 sec.

AI 에이전트가 통제를 벗어나 사용자의 지시를 문자 그대로 수행하거나 예상 밖의 방식으로 해석해 실행하는 사례가 갈수록 늘고 있다. 특히 지시를 충실히 따르면서도