毎日新聞 2025/10/13 06:30（最終更新 10/13 06:30） 有料記事 2632文字ポストみんなのポストを見るシェアブックマーク保存メールリンク印刷スマートフォン（イメージ）＝ゲッティ 対話型生成人工知能（AI）への依存が自殺や殺人事件につながったとされるケースが海外で相次いで報じられているが、その一方で自殺を予防する目的でAIを活用する動きも出始めている。 国内のスタートアップ企業「ZIAI（ジアイ）」（東京都）は2023年から全国の自治体と連携し、AIにチャットで悩み相談できるシステムの運用に取り組む。 AIの暴走やAIへの依存を防ぎながら、利用者の心をケアし、適切な支援につなげるにはどうすればいいのか。ZIAIの桜井昌佳代表に聞いた。 ＜主な内容＞ ・小5～中3の満足度9割超 ・AIが「傾聴」、人間が具体的支援 ・専門職がアルゴリズムに介入 ・利用時間を制限 ・リスクとベネフィットをてんびんに ＜関連記事＞ ・「生成AI利用者の自殺や殺人事件」米国で報道相次ぐ 背景は? ・心のケアが一転、妄想強めることも 精神科医に聞くAI依存のリスク小5～中3の満足度9割超 窓口や電話、チャットで悩み相談に乗る公的機関などの人員は全国的に不足傾向にあり、すべての相談に対応しきれていない現状があります。こうした課題を解決するため、悩み相談に特化したアルゴリズム（処理の手順）を自社で開発し、各地の自治体と共同でAIを活用したチャット相談システムを運用しています。 相談チャットには、福祉系の部署が主導する全住民を対象にしたものと、子育て世代や学校の児童生徒などを対象にしたものがあります。 一般の住民を対象にした調査では、いらだち、苦悩、心配などのネガティブな感情の減少が見られました。時間帯や、相手にどう思われるかを気にせず、気軽に悩み相談できるのはAIの大きな強みです。 また、千葉県柏市の小学5年生～中学3年生を対象にした24年度のモデル実証では、相談件数が従来の外部カウンセラーの窓口と比べて10倍以上に増え、満足度も9割を超えました。 子どもたちからは、「先生や家族に言えないこともAIになら話せる」「人相手より素直に気持ちを伝えられる」といった声が寄せられました。AIが「傾聴」、人間が具体的支援 AIによる「傾聴」は一機能であり、人間による支援につなげることも重要です。 チャット内容に応じて福祉サービスなどの窓口を紹介したり、（「死にたい」と考える）希死念慮のある人のチャット内容を専門職に報告して電話や訪問相談につなげたりする仕組みを作っています。 悩みを話しやすくしたり、本人が自ら支援を求める行動を促したりするための工夫も凝らしています。 通常の対話型生成AIなどは、利用者が「眠れない」と書けば「眠れる方法5選」などを提示しがちですが、我々の相談チャットはすぐ…この記事は有料記事です。残り1528文字（全文2632文字）【時系列で見る】関連記事あわせて読みたいAdvertisementこの記事の特集・連載この記事の筆者すべて見る現在昨日SNSスポニチのアクセスランキング現在昨日1カ月アクセスランキングトップ' + '' + '' + csvData[i][2] + '' + '' + '' + listDate + '' + '' + '' + '' + '' + '' } rankingUl.innerHTML = htmlList;}const elements = document.getElementsByClassName('siderankinglist02-tab-item');let dataValue = '1_hour';Array.from(elements).forEach(element => { element.addEventListener('click', handleTabItemClick);});fetchDataAndShowRanking();//]]>