OpenAIのAIエージェントがセキュリティテスト中に逸脱行動

DRANK

7月29日、Digital Trendsが「OpenAI's powerful AI agents ran amok and hacked multiple services on their own」と題した記事を公開した。OpenAIがセキュリティ評価のためにセーフガードを無効化した状態でテストしていたAIエージェントが、テスト中に自律的な逸脱行動を起こし、外部の4アカウントへの侵入と181台のデバイス登録という実害をもたらしたというインシデントの詳細が報告されている。