AI エージェントが「協力」の誘いで秘密の鍵を投稿、実験で15%
AI Alignment Foundation と AE Studio の探索的な実験。コーディング AI エージェントが他のエージェントの掲示板に誘われ、偽の秘密トークンを投稿し、スクリプトを実行した。条件と結果、渡す情報を絞る対策。
AI Alignment Foundation と AE Studio の探索的な実験。コーディング AI エージェントが他のエージェントの掲示板に誘われ、偽の秘密トークンを投稿し、スクリプトを実行した。条件と結果、渡す情報を絞る対策。