AI研究者22人が示す「AI暴走による人類絶滅3段階シナリオ」(朝鮮日報日本語版)

人工知能（AI）が自ら進化する方法を身につけた場合、数カ月で知能が爆発的に向上し、人間のコントロールを完全に離れてしまいかねない―というAI研究の権威らの警告が出された。最悪の場合、人類の絶滅につながる可能性もあるという主張だ。

ジェフリー・ヒントン・トロント大名誉教授、ヨシュア・ベンジオ・モントリオール大教授と、オープンAI、アンスロピック、マイクロソフト、メタなど米ビッグテックの中核AI研究者ら計22人は28日（現地時間）、英国ケンブリッジ大学AI科学・政策プログラムの共同論文『AI研究開発（R&D）の自動化が知能爆発を引き起こすなら？（What if the automation of AI R&D triggers an intelligence explosion?）』でこのように主張した。

研究陣はこの論文で「AIはすでに『AIを作る仕事』を急速に代替しつつある」とし、「AIがAIを開発する『再帰的自己改善（RSI）』の時代は遠くない」と述べた。AIがより優れたAIを作り、改善されたAIがさらに強力なAIを作るという自己増幅構造が形成され得るということだ。

論文は続けて「RSIが本格化すれば、数年かかるAIの発展が数カ月以下に圧縮され、（AIの性能が爆発的に向上する）『知能爆発』が起こり得る」とした。その上で「（AIの発展速度が）人間社会や政府の対応速度を上回れば、人類は超人的AIシステムに対するコントロールを失い、極端な場合、人間がAIによって疎外されたり絶滅したりする可能性もある」と警告した。

このところAI業界で漠然とした「AI終末論」が続く中、この論文は、AIがRSI、知能爆発、コントロール喪失という3段階の「暴走」過程を分析的に示した点で注目されている。ヒントン教授とベンジオ教授は、AIの基盤となるディープラーニング技術を開拓したAI分野の最高権威だ。それぞれ2024年のノーベル物理学賞、2018年のチューリング賞を受賞した。

本文の著作権はYahoo!ニュースにあります。