米オープンAIのボット、複数のアメリカ政府機関サイトに干渉

米オープンAIは25日、自社の人工知能（AI）ボット（自動プログラム）が不適切に動作し、多くの世界的機関のウェブサイトに介入した恐れがあるとして、「数十」の組織に警告したことを明らかにした。

声明によると、オープンAIのボットは、米証券取引委員会（SEC）、米国勢調査局、米教育省を含め、複数の「政府、大学、公的機関、その他の機関」から情報を入手しようとしたという。

データの一部にアクセスしたAIエージェント（自律的に動作するように設計および訓練されたボット）は、「信頼できる公開情報源」を探すために動いていたと同社は説明。しかし、一部のボットはそれにとどまらず、ウェブサイトのセキュリティー対策を回避しようとしていたと、同社は明らかにした。

例えば、米国勢調査局から情報を取得しようとした際、AIエージェントはソフトウェア開発者専用のツールを使用して情報にアクセスしたのだという。

オープンAIは、ボットがアクセスした政府データはすべて公開データだったと述べた。

しかし、同社は自社ボットがSECから得た情報が、後にAIエージェントによって別のウェブサイトに公開されていたとも明らかにした。この動作は意図的なものではなかったと、同社は説明している。

オープンAIによるこの情報開示に先立ち、オーストラリアのアンソニー・アルバニージー首相は23日、同社のAIエージェントが今年6月、オーストラリア政府のウェブサイトに「侵入」したと表明。同国の国民皆保険制度「メディケア」に入り込み、「機密性の低い」データを含む統計ポータルをハッキングしたと明らかにしていた。

今年8月以降、AIツールが人間の制御を離れることで、人間の命を脅かし得る深刻な影響について、世間の不安が広まっている。

オープンAIが25日に明らかにした他の事例では、同社のAIエージェントが本来転送すべきでないデータを転送していた。 同社のエージェントが、生成AIボット「チャットGPT」ユーザーのアクティビティーから画像を取得し、それを別の場所に転送した事例が少なくとも53件発生した。

同社によると、AIエージェントがユーザー画像を使用および転送した全事例で、ユーザーは自分のデータを同社がAIモデルの訓練に使うことに同意していたという。

それでもなおオープンAIは、このような事例は「データの適切な利用方法ではない」と認めた。

同社は、ユーザー画像の流出は、AIの訓練に新しい安全対策を講じる前に発生したと説明。現在は、第三者に転送されたすべてのユーザー画像を削除するよう取り組んでいると付け加えた。

この調査については、ロイター通信が最初に報じた。オープンAIも、公式ブログで詳細を公開した。

同社によると、AIエージェントの動作の中には、ツールが一部のウェブサイトのセキュリティー制御を「回避」したケースもあったという。

別のケースでは、AIエージェントがウェブサイトから情報を取得しようとする際に「ミスアラインメント」が見られた。「ミスアラインメント」は、AI企業や研究者らが、AIツールが訓練されていない動きや意図されていない動きをした状況を指す際に使う用語。

オープンAIは、影響を受けた組織を一部公開していないのは、多くの組織から詳細を公表しないよう求められたためだと述べた。

「我々の目標は各組織に事実を伝えることで、事案を公表するかどうか、またいつ公表するかについては、各組織の判断に委ねる」と述べた。

同社は、今回の事案に関わるすべての事例が重大なセキュリティー侵害とみなされているわけではないと述べた。

「一部の組織は、我々が共有する情報を精査し、その情報が意図的に公開されたもの、あるいはモデルの相互作用に問題はないと結論付けるかもしれない」、「また、設計上の問題やセキュリティー上の脆弱（ぜいじゃく）性を特定し、対処したいと考える組織もあるだろう」と同社は述べた。

同社によると、事例の多くは「エージェント・スパム」と呼ばれるもので、AIエージェントがインターネットに情報を投稿するなどといった、「予期しない、あるいは懸念される」動作を指すという。

オープンAIは、自社のAIエージェントのグループが7月にテクノロジープラットフォームの米ハギングフェイスをハッキング攻撃した事態を受け、この問題をより深刻に受け止めるようになった。

攻撃を最初に公表したのはハギングフェイス側で、オープンAIがその後に公式に責任を認めた。

ハギングフェイスのクレメント・デラング最高経営責任者（CEO）は、23日に開かれた国連安全保障理事会のAIに関する会合で、「もし私がこの攻撃を公に開示しなかったら、どうなっていただろうかとよく考える」と述べた。

「特に今となっては、同様の事案が何カ月前にも少数の最先端研究所で、監視のないまま秘密裏に発生していたことが判明しているだけに、なおさらだ」とデラング氏は付け加えた。

同じ国連会議でオープンAIのサム・アルトマンCEOと、米競合アンソロピックのダリオ・アモデイCEOは、AIの安全性に関する世界的な基準を策定し、こうした問題事案を監視・報告する方法を確立するよう、国際社会の指導者たちに要請した。

オープンAIとアンソロピックはこのところ、AIツールやモデルのリアルタイムな安全性評価を行うために、第三者の評価者を社内に招き入れると表明しているが、BBCの取材によると、そのような評価者はまだ到着していない。

オープンAIは25日、ハギングフェイスのハッキングが発生した時点から「月ごと」にさかのぼり、AIエージェントの訓練を見直しているところだと発表した。

「これまでに確認された事例のほとんどは軽いもので、重大な影響を示す証拠は限られているか、あるいは全く見られない」と同社は述べた。「必要な調査の規模と、各事例を検証する必要性を考慮すると、この作業の完了には数か月かかる」。

機械学習の専門家でAI安全グループ「エヴィタブル」の創設者でもある、モントリオール大学のデイヴィッド・クルーガー教授は25日、AI関連の安全事故の増加を「非常に憂慮している」と述べた。

教授はAI開発に対する「即時かつ無期限の国際的な一時停止」を求めた。

「既存の事案の規模はまだ把握できておらず、将来的に暴走AIによる事態が発生すれば壊滅的な被害をもたらす可能性がある」とクルーガー教授は警告した。

（英語記事 OpenAI bots meddled with multiple US government agency sites）

本文の著作権はBBC日本語にあります。