Notion AIの会話記録が流出、国内企業にも影響--委託先が契約に反して保存
23 時間前
Notionは11月12日、AIインフラ事業者のFireworks AIで発生した不正アクセスにより、Notion AIの会話記録が第三者にアクセスされたと 発表 した。影響を受けたワークスペースは全体の1％未満。国内でも日建グループ、弥生、LRMが影響を受けたことを相次いで公表している。
アクセスされたのは、ワークスペースの管理者がAIの利用状況を把握する「Insights」機能の分析に使われていた会話記録だ。Notion AIへの入力内容とAIの回答が含まれる。
Notionによると、影響を受けたワークスペースの大半では、記録に利用者や所属企業、ワークスペースを特定する識別情報は付いていなかった。また、AIが外部の機能を呼び出して取得した結果も含まれていなかった。ただし、会話の内容自体に機密情報が含まれている可能性はある。
日建グループは11月13日、従業員がNotion AIに入力した業務情報や、取引先担当者の氏名などが流出したデータに含まれていたと 発表 した。
添付ファイルそのものやNotion内のページ、データベースは対象外だが、Notion AIがファイルを参照し、回答に出力した内容は含まれるという。同グループは対象データの確認を進めており、関係する取引先には順次個別に連絡する。グループのシステムへの侵入や、今回の事案による二次被害は現時点で確認していない。
弥生も11月11日、Notionから自社が影響対象であるとの連絡を受けた。従業員が入力した内容やAIの回答に、取引先や従業員に関する情報が含まれている可能性があるとして、 調査を進めている 。
同社によると、顧客データを扱う本番システムはNotionと分離されており、提供中のサービスに影響はない。また、顧客の個人情報や認証情報、クレジットカード情報、金融機関の口座情報や連携情報が流出した記録に含まれていた事実も、現時点では確認されていないという。
情報セキュリティ事業を手がけるLRMも、従業員がNotion AIに入力した情報の一部が流出した可能性があると 公表 した。対象の記録には取引先担当者の氏名などが含まれていた一方、システムのパスワードなどの認証情報は含まれていなかったとしている。
今回の事案では、Notionが外部のAI事業者に送ったデータが、保存しないという契約に反して保持されていたことも明らかになった。
Notionは「Insights」の提供に必要なため、Notion AIへの入力内容と回答を自社で保存し、Fireworksに送って分類・分析していた。
NotionがEnterpriseプラン向けに約束する「ゼロデータ保持」は、AIの回答生成のために外部のモデル事業者へ送信するデータを、委託先が保存しないことを指す。チャット履歴やInsightsなど、機能の提供に必要なデータをNotion自身が保存することは、この約束の対象外となる。
一方、NotionはFireworksとの間でも、同社のプラットフォーム上でデータを保持しない契約を結んでいた。しかし 調査の結果 、Fireworksに送ったデータが同社側で保存されていたことが判明したという。
Notionは再発防止に向け、AIの回答生成やデータ処理を担う重要な委託先を監査し、データの保持を最小限に抑える方針が守られているか確認するとしている。
Fireworksの説明 によると、発端は同社の研究開発用マシンを設置していた外部クラウド事業者への不正アクセスだった。
10月23日にクラウド事業者が侵害され、翌24日には攻撃者がFireworksの開発用マシンに到達。不正なプログラムを実行し、顧客データにも影響が及んだという。
NotionがFireworksから最初の通知を受けたのは11月2日だった。当初、アクセスされたのは人工的に作成したテストデータのみで、顧客データは含まれていないと判断していた。
しかし6日、顧客データにもアクセスされた可能性があるとFireworksから新たに通知された。8日に影響を受けたデータが確定し、Notionは9日に対象顧客への連絡を始めた。
Notionは、今回の事案で自社のシステムが侵入されたわけではなく、ほかのNotion機能への影響も確認していないと説明している。「AI Meeting Notes」の音声、文字起こし、要約についても、Notion AIのチャットに入力された場合を除き、影響の対象外としている。
Notionは11月3日にFireworksとの接続を遮断し、4日には同社のシステムに保存されていたNotionのデータを削除した。現在はInsightsの提供を停止し、Fireworksを経由したオープンウェイトモデル（学習済みのパラメーターを公開したAIモデル）の提供も中止している。
影響を受けたワークスペースでは、所有者や対象メンバーが「Security incident review」から該当データを確認できる。パソコンのブラウザーからアクセスする必要があり、スマートフォンでは確認できない。
所有者がワークスペース全体の対象データをダウンロードするには、ドメイン認証が必要となる。メンバーが確認できるのは、原則として本人のデータに限られる。
Notionは、対象となった会話にパスワードやAPIキーなどの認証情報を入力していた場合、外部に漏えいしたものとみなし、速やかに変更するよう勧めている。
調査は現在も続いている。Notionは11月11日、対象の会話から見つかったNotion APIキーを失効させた。12日には、第三者サービスのAPIキーについても、それぞれの発行元に報告した。
本文の著作権はCNET Japanにあります。