オープンAI、新モデルの公開を取りやめ 安全上の懸念から

米オープンAIのサム・アルトマン最高経営責任者（23日、国連本部）

ダークスーツ姿のアルトマン氏が、国連安保理の席に座り、右手で通訳の音声機器を右耳に当てて斜め前方を見ている

米オープンAIは29日（イギリス時間）、新たな人工知能（AI）モデル「GPT-6.1 アストラ」について、安全上の懸念から公開しないと明らかにした。同社は「チャットGPT」の開発元。

オープンAIの安全システム責任者のサーチ・ジェイン氏によると、新たなAIモデルはウェブ閲覧やアプリ使用などのタスクを自律的に行うもので、同社の基準を「完全には満たさなかった」という。

オープンAIはこの日、同社のAIモデルがオーストラリア政府のウェブサイトやシステムに無断でアクセスした件に関して、最新情報を発表した。この事案は6月に発生したが、先週まで公表されていなかった。

この件を含め、大手AI企業が開発したモデルによる同様の不正アクセスが、このところ相次いでいる。それを受け、AI技術がもたらすリスクをめぐって激しい議論が起こっている。

オープンAIのサム・アルトマン最高経営責任者（CEO）や米アンソロピックのダリオ・アモデイCEOらAI業界のトップリーダーたちは、AI技術に伴うリスクへの懸念から、開発ペースを落とすよう業界に促している。

今回のオープンAIの決定は、米紙ウォール・ストリート・ジャーナルが最初に報じた。AI開発大手が、安全性の懸念から新製品のリリースを取りやめるのは異例。

オープンAIのジェイン氏によると、最新モデルは「範囲と権限内にとどまることと、実行した作業の種類についてユーザーにフィードバックする方法」について、基準を満たさなかったという。

同氏は、「社内での開発なのか、ユーザーに提供する製品なのかに関係なく、私たちはモデル開発で安全を確保したいと考えている。とはいえ、ユーザーに提供する製品については、安全性と整合性に関して極めて高い基準を設けている」と付け加えた。

主力製品「GPT-6 アストラ」のエージェントモデルは今月リリースされた。複雑な推論とタスクの自律実行に特化している。「長年の研究と大きな賭け」の成果だと、オープンAIは説明している。

同社は29日、米サンフランシスコで年次開発者会議「DevDay」を開催する。その場でいくつかの発表があると見込まれている。アストラの新バージョンが含まれるかは不明。

同社のAI技術に関係した重大事案が相次ぎ発生したことを受け、同社のセキュリティー管理体制に厳しい目が向けられている。

オーストラリアのアンソニー・アルバニージー首相は23日、オープンAIの不正エージェントが6月に同国政府のウェブサイトやシステムに侵入したと発表した。専門家らは、こうした事例が確認されたのは世界で初めてだとしている。

アルバニージー氏は、オープンAIが豪当局者に直接連絡するのではなく、一般的なメールアドレスを通じて侵入を知らせたことも批判した。

オープンAIは29日の声明で、この件について謝罪し、「もっと適切な対応をすべきだった」とした。

そして、サーヴィシズ・オーストラリア、ニューサウスウェールズ州犯罪統計・調査局、ヴィクトリア州保健省、豪保健福祉研究所の各機関に、影響が及んだと明らかにした。

オープンAIは、8月中旬にこれらの事案を把握してすぐ調査を開始したと説明。影響を受けた組織には、9月10～24日に通知したとした。

また、「調査が完了次第、影響を受けた機関に詳しく説明することを目指していた」とした一方で、初期の調査結果をより迅速に共有し、豪当局に最新情報を提供すべきだったと加えた。

オープンAIはさらに、AI関連のインシデントを開発者や政府が特定・開示する方法について、「実用的なアプローチ」を策定するとした。

そして、サイバーセキュリティー対策への資金拠出、影響を受けた機関への専任サポートの提供、一段と高度化するAIエージェントのリスクを管理するタスクフォースの設置――などに取り組むとした。

オープンAIはこのほか、10月6日に豪議会であるAIに関する合同特別委員会の公聴会に、同社最高幹部が出席する予定も明らかにした。

同社は7月、自社のAIシステムがインターネットにアクセスし、オープンソースの開発プラットフォーム企業の米ハギングフェイスをハッキングしたと発表。研究者や当局者らから、AI技術に対するより厳格な規制を求める声が上がった。

こうしたなか、半導体大手の米エヌビディアは28日、自律型AIプラットフォーム（エージェント）向けのソフトウエア安全ツールをリリースした。これがあれば、ハギングフェイスのハッキングは防げたはずだと、エヌビディアは説明している。

新ツールの一つは、エヌビディアの半導体に搭載されているハードウエア機能を利用して、エージェントを封じ込めるという。

エヌビディアのジェンスン・フアンCEOは、AI規制強化を求める声に対し、概ね否定的な見解を示している。不正なAIエージェントは、解決可能な技術的な問題だと主張している。

エヌビディアは今月初め、ハギングフェイスを129億ドル（約2兆円）で買収することに合意した。

キリスト教カトリック教会の教皇レオ14世は28日、フランス訪問中に、AI技術について「真剣に受け止めるべきだ」と発言。フアン氏の見解に対し、懐疑的な考えを示した。

教皇は、特定のAIモデルにガードレール（安全策）を組み込む方法があるかもしれないとフアン氏が発表したという内容の、記事を読んだと述べた。

そして、「だがその同じ人物が、制限を設けるべきではなく、政府による規制もすべきではないと主張している」と指摘。

「これは、私たちが腰を据えて話し合う必要がある問題だと思う」と教皇は付け加えた。教皇はこれまでも、機械によって「人間性を失う」恐れについて警鐘を鳴らしている。

他方、アメリカのドナルド・トランプ大統領とマイク・ジョンソン下院議長は、29日にホワイトハウスで、主要テクノロジー企業のリーダーらとAIに関する規制について協議する予定となっている。

トランプ氏は、AIのリスクに関する懸念を「でっち上げ」だとして取り合っていない。また、アメリカには十分な法律が整備されているとし、AI技術に必要な「ガードレール」は「強くて賢い」大統領だけだと主張している。

（英語記事 OpenAI scraps rollout of new model over safety concerns）

本文の著作権はBBC日本語にあります。