AI新世紀インタビュー 浅川大樹毎日新聞 2026/9/1 06:00（最終更新 9/1 06:00） 有料記事 2265文字ポストみんなのポストを見るシェアブックマーク保存メールリンク印刷人工知能（AI）の安全な利用を目指す米国の非営利団体「フューチャー・オブ・ライフ・インスティテュート」のアンソニー・アギーレ会長兼最高経営責任者＝同団体提供 米アンソロピックの最先端人工知能（AI）「クロード・ミュトス」の登場（2026年4月）以降、人間の能力を上回る「超知能」のAIは一気に現実味を帯びた。国家や企業間の開発競争が加速する中、人間のコントロールから外れるリスクも指摘されている。 AIがもたらすリスクに警鐘を鳴らす米非営利団体「フューチャー・オブ・ライフ・インスティテュート（FLI）」の共同創設者で理論物理学者でもある米カリフォルニア大のアンソニー・アギーレ教授は、高度なAI開発に対する姿勢を見直す必要があると主張する。AI利用の拡大がもたらす不確実性 AIは「コンピューターの新たな利用法」と捉えることができる。具体的な指示に沿って正確に作動する従来のコンピューターと異なり、AIは利用者が目標さえ提示すれば答えを自ら導き出す。汎用（はんよう）性は非常に高い。 ただ、欠点もある。答えに至る道筋を示す必要がないため、AIが目標達成に向けて具体的に何をするかを正確に予測できないのだ。能力が向上して大規模かつ強力に稼働するようになるほど実行できる幅は広がるが、その動きはより不明確になる。 FLIは23年、次世代AIの開発の一時停止を求める書簡を公開した。自身も主要な執筆者として関与した。当時は米オープンAIが「GPT―4」という最新の生成AIモデルを公開し、普及に向けて軌道に乗ったことが明確になった時期だった。 高度なAIには、安全性▽人間の代替▽制御の喪失――という三つのリスクが内在している。悪用されれば、サイバー攻撃や大量破壊兵器の開発、扇動によるテロ支援などに利用され、人間社会が危険にさらされる恐れもある。人間が担うべき役割・能力までAIで再現され、人間の代わりに投入されるという展開も想定される。AIに意思決定を委ねる場面が増えると、その動きはより予測困難となる。 そのようなリスクに鑑み、我々は極めて強力なAIの開発競争に突き進む前に、少し立ち止まって何らかの体制を整えるべきだと訴えた。それはAIを巡る規制について検討する時間を確保し、より安全で大きな利益をもたらす形で開発されるようにするためだった。見過ごされた大きな過ち ただ、ここで全く別の事態が起きた。…この記事は有料記事です。残り1341文字（全文2265文字） 最先端AIの登場は、人類に新たな脅威をもたらしつつある。今後どのように向き合っていくべきか。各界の専門家に聞く ＜関連記事＞ AIゴッドファーザーが警告する「人類絶滅」 オードリー・タン氏が説くAIと民主主義 サカナAI社長が語る「日本の強み」【前の記事】「私は2度AIに仕事を奪われた」フィリピンIT関連業界の異変関連記事【最新記事】あわせて読みたいAdvertisementこの記事の特集・連載この記事の筆者すべて見る1時間24時間SNSスポニチのアクセスランキング1時間24時間1カ月アクセスランキングトップ' + '' + '' + csvData[i][2] + '' + '' + '' + listDate + '' + '' + '' + '' + '' + '' } rankingUl.innerHTML = htmlList;}const elements = document.getElementsByClassName('siderankinglist02-tab-item');let dataValue = '1_hour';Array.from(elements).forEach(element => { element.addEventListener('click', handleTabItemClick);});fetchDataAndShowRanking();//]]>