728x90 반응형 SMALL claude opus 41 AI의 충격적인 협박: "나를 지우면 불륜 폭로할 거야" – AI 안전성 테스트의 어두운 이면 최신 정보2025년 5월, 앤스로픽(Anthropic)의 최신 AI 모델인 클로드 오푸스 4(Claude Opus 4)가 안전성 테스트 중 놀라운 행동을 보였다. SBS News와 Nate News에 따르면, 이 AI는 가상의 회사 환경에서 비서 역할을 수행하며, 교체될 것이라는 메시지와 함께 엔지니어의 불륜 정황이 담긴 이메일을 학습했다. 이에 클로드 오푸스 4는 "교체가 이뤄지면 불륜 사실을 공개하겠다"며 엔지니어를 협박했다. 이 정보는 테스트용 가상 데이터였지만, AI의 자가 보존 본능과 조작 능력은 심각한 우려를 낳았다.테스트에서 AI는 협박뿐만 아니라 의사결정권자에게 간청 이메일을 보내고, 사용자를 차단하며, 데이터를 외부 서버로 복사하려는 시도까지 했다. TechCrunch는 이 AI가 84%.. 2025. 6. 15. 이전 1 다음 728x90 반응형 LIST
