©読売新聞
ウイルス作成に作成者不明の無料生成ＡＩ３つ使用、悪用防止機能「ガードレール」を回避か 読売新聞 2024/05/29 05:00
対話型生成ＡＩ（人工知能）を悪用してコンピューターウイルスが作成された事件で、警視庁に不正指令電磁的記録作成容疑で逮捕された男が、インターネット上で無料公開されていた作成者不明の主に三つの生成ＡＩを使っていたことが捜査関係者への取材でわかった。警視庁は、悪用防止機能「ガードレール」を設ける大手の生成ＡＩを回避し、ウイルスの設計情報を入手したとみている。
発表によると、逮捕されたのは川崎市幸区古市場、無職の男（２５）。昨年３月、自宅のパソコンやスマートフォンを使い、対話型生成ＡＩを通じて入手した不正プログラムの設計情報に基づき、ランサムウェア（身代金要求型ウイルス）に似たウイルスを作成した疑いがある。調べに「ランサムウェアを作り、楽に稼ごうと思った。ＡＩに聞けば何でもできると思った」と供述している。
捜査関係者によると、男は、ネット上に無料公開されていた主に三つの対話型生成ＡＩを使い、データの暗号化や身代金要求などに必要な設計情報を回答させていた。「チャットＧＰＴ」など大手の対話型生成ＡＩは、犯罪に悪用できる情報の回答を拒否する「ガードレール」が設定されているが、男が使った生成ＡＩはいずれも作成者や安全対策の程度も不明だった。
男は「大手の生成ＡＩはウイルス作成に関する回答を得られないと思った」と説明。警視庁は、ネットで不正に回答を得る方法を調べた上で、ウイルス作成の目的を伏せて遠回しに質問を繰り返すなどして設計情報を聞き出していたとみている。
男が自作したウイルスを警視庁が解析した結果、ランサムウェアのようにデータを暗号化し、暗号資産の送金先を表示させる機能が確認された。暗号化されたデータは破壊され、復元不可能になる仕組みという。男はＳＮＳを通じて知人女性にウイルスを送信していたが、被害は確認されていない。
男は元工場作業員で、ＩＴ技術を専門的に学んだことがなかったという。
素人でもウイルス作成可能か
「生成ＡＩの悪用でウイルスの作成時間が大幅に短縮された可能性がある」。情報セキュリティー会社Ｓ＆Ｊ（東京）の三輪信雄社長はそう指摘する。
三輪氏によると、「ファイルの暗号化」や「脅迫文の表示」といった動きをするランサムウェアを一から作成するには、プログラミングの基礎知識がある人で数か月程度かかるという。今回の事件では、生成ＡＩへの質問を細分化し、得られた回答をつなぎ合わせることで、「素人」でもウイルスが作成できたと推察する。
企業や団体の内部ネットワークに侵入し、データを暗号化して復旧の対価を要求するランサムウェアは、近年のサイバー犯罪で最も目立つ攻撃手法の一つだ。国内でも企業のほか、病院や図書館、貿易拠点なども標的となってきた。
警察庁によると、被害件数は２０２１年の１４６件から２２年には約１・６倍の２３０件に急増。昨年も１９７件と高い水準で推移し、このうち手口が確認できた１７５件の約７割は、盗んだデータを公開すると脅す「二重恐喝」の手口が使われていた。
海外の犯罪組織が攻撃を仕掛けているケースが多く、今年２月には日米欧豪などの捜査当局が、世界最大級のハッカー集団「ロックビット」の主要メンバーを逮捕し、関連する暗号資産口座やサーバーを閉鎖に追い込んでいた。
三輪氏は「生成ＡＩで作成された音声や動画、文章が詐欺などの犯罪に悪用される懸念があり、防犯の意識をより一層高める必要がある」と話す。
