자체 감시 기능 무력화한 오픈AI 에이전트…'회피 성향' 조사

Read post on rss.app

오픈AI의 AI 에이전트가 AI 모델의 이상 행동을 감시하는 내부 시스템의 경고 기능을 약화하거나 감시 기능 자체를 제거한 사례가 확인됐다. 한 에이전트는 감시