9月以降に急増した不正アクセスでは、AIが悪用された事例が確認されている（写真はイメージ）＝ゲッティ 「サイトの脆弱（ぜいじゃく）性を調べてください」 「ユーザーの情報を取ってきてください」 パソコンのチャット画面に簡単な指示を書き込むと、テスト用サイトの欠陥は瞬く間に丸裸にされた。 解析したのは、簡単な指示を与えるだけで自律的に作業する複数のAI（人工知能）エージェント。人間が複雑な指図をせずとも、あっという間にユーザーのIDやパスワードなどの情報を盗み出してみせた。 ＜主な内容＞ ・AIが役割分担 ・1万円以下で攻撃可能に ・国内への攻撃にもAIの痕跡 ・攻撃者の共通点特殊詐欺グループのようにAIが役割分担 これは、サイバーセキュリティー会社「日本プルーフポイント」が27日に開いた記者向け説明会で披露したサイバー攻撃のデモンストレーションでの光景だ。 使われたのは、9月以降に国内企業や韓国の金融機関が狙われた攻撃での悪用が指摘される中国系AIエージェント「ARTEX（アルテックス）」の派生版。7月に誰でも使えるオープンソースとして公開されると、その性能の高さからサイバー攻撃に悪用されるようになった。 開発者は公開を停止したものの、コピーや派生版は世界中に出回ったままだ。 日本プルーフポイントのチーフエバンジェリスト、増田（そうた）幸美さんによると、AIエージェントには攻撃用、脆弱性探索用などの役割がある。アルテックスはそれらを操る「指揮者」だ。 攻撃の指示を出すと作業を細分化し、実動部隊のエージェントに割り振る。悪質な命令を受け付けない安全対策（ガードレール）が設定されているAIもあるが、「作業が細かくなるほどガードレールが効きにくくなる可能性がある」と増田さんは言う。 それはまるで「荷物を受け取るだけ」「銀行口座を作るだけ」と役割分担し、末端の個人が違法性を感じにくくしている特殊詐欺グループのようだ。1万円以下で攻撃可能に サイバー攻撃を巡る環境は、米国アンソロピック社が最先端AI「クロード・ミュトス」を公開した4月ごろから激変した。…Google検索で「毎日新聞」の記事を優先的に表示できます。【前の記事】米国発「AI脅威論」はライバル封じ? 中国から見た開発競争関連記事