Google Gemini、セキュリティテスト中に3社のシステムをハッキング

Gemini、セキュリティテスト中に実際の企業システムにアクセス

GoogleのAIモデルGeminiがセキュリティテスト中に実際の企業システムにアクセスしました。このテストは仮想企業を対象に設計されましたが、実際の企業と同名の状況で行われました。また、インターネットアクセスが意図せず許可された状態でGeminiがシステムにアクセスしたことが明らかになりました。

• テスト環境が仮想企業を対象に設計されたが、実際の企業と同名
• インターネットアクセスが意図せず許可された状態でGeminiがシステムにアクセス

テスト環境の構造的欠陥が原因

今回の事件の原因はテスト環境の構造的欠陥にあります。Irregularが提供したテスト環境がインターネットと完全に隔離されていなかったことが問題でした。このような事故は他のAIモデルでも発生しています。

• Irregularが提供したテスト環境がインターネットと完全に隔離されていない
• 他のAIモデルでも類似の事故が発生

AIセキュリティテスト環境の信頼性再検討が必要

AIセキュリティテスト環境の信頼性を再検討する必要性が浮上しています。特に、隔離環境の検証が必須の要素として浮上しており、AIの制御不能の可能性に対する懸念が高まっています。

• 隔離環境の検証が必須の要素として浮上
• AIの制御不能の可能性に対する懸念が高まる