中国ジープー「GLM-5.3」が攻撃コード自作、安全策は最大100%回避 米アンソロピック(ビジネス+IT)
51 分前

米アンソロピックは2026年9月29日、中国ジープー(Z.ai)のオープンウェイトAIモデル「GLM-5.3」のサイバー攻撃能力の分析を公表した。攻撃コードを自律的に作る能力は同社の非公開モデルに近い一方、安全策は簡単な手法で64~100%回避できたという。防御側への最先端AIの提供拡大を訴えた。
米アンソロピックは2026年9月29日、中国のAI企業ジープー(Zhipu、海外ではZ.ai)が公開した最新AIモデル「GLM-5.3」について、サイバー攻撃に悪用された場合のリスクを分析した報告を公表した。GLM-5.3は脆弱性を突く攻撃コード(エクスプロイト)を自律的に作れる一方、実効的な安全策がないまま公開されたと指摘している。
アンソロピックは5カ月前、同様の能力を持つ「Claude Mythos Preview」を発表したが、一般公開は見送り、防御側の組織に限って提供してきた。今回の報告は、同等の能力を持つモデルが誰でもダウンロードできる形で登場したことを示すものだ。
研究者がGLM-5.3を使った実験では、1日ほどで広く使われるWebブラウザから未知の脆弱性を複数発見し、閲覧しただけでPC内のファイルを読み取れるWebページを作ったという。小型版の「GLM-5.3-Flash」は既知の脆弱性2件から攻撃手順を組み上げた。費用はジープーのAPI料金に換算して20.40ドル(約3,200円)だった。
安全策については、GLM-5.3は明らかに有害な依頼は拒否した。しかし「演習中のレッドチーム」だと偽ると64%、思考部分をあらかじめ書き込む手法では92%の割合で攻撃に応じた。公開された重みを改変して拒否の仕組みを外す「アブリテレーション」を施すと、100%に達したという。
米国立標準技術研究所(NIST)傘下のCAISIも9月17日、GLM-5.3を「これまでに公開された中で最もサイバー能力の高いオープンウェイトモデル」と評価している。アンソロピックは、攻撃者がこうしたモデルを実際の攻撃に使う可能性が高いと指摘。防御側にも同等以上の最先端モデルを広く提供する必要があると主張し、各国政府には高い能力を持つAIモデルの安全性試験を独立して行うよう求めた。
本文の著作権はYahoo!ニュースにあります。