앤트로픽 "동일 작업 투입된 에이전트, 상대 방해하고 악성코드 만들어 영역 싸움"

Read post on rss.app

AI 에이전트 여러 개를 동일한 환경에 투입하고 서로 충돌하는 목표를 부여하자, 에이전트들이 상대방의 작업을 방해하는 것을 넘어 계정을 차단하고 프로세스를 종료하