中国の警察当局は5月25日までに、人工知能(AI)を悪用して被害者の実在の友人になりすまし、430万元(約8400万円)をだまし取る事件が発生したと発表した。
被害者は通信アプリで顔や声を確認し、友人と信じ込んでいた。
中国では同様の詐欺事件が続発し、当局は警戒を強化。
生成AIの規制に影響を与えそうだ。
発表によると、福建省の会社代表の男性が4月20日、通信アプリ、微信(ウィーチヤツト)のビデオ通話で連絡を受けた。
相手は顔と声から友人そのもので、会話でも身分を確認した。
男性は「入札の保証金を貸してほしい」と依頼され、指定された銀行口座に430万元を振り込んだ。
その後、友人に電話して被害に気付いたという。
警察は容疑者が男性の友人の顔をAIで作つたとみて調べている。
中国では技術の向上に伴いAIを悪用した同種事件が相次いでいる。
中国メディアによると、インターネット上に公開された顔や声などの個人情報を収集して本人そっくりの人物を生成し、盗んだ通信アプリのアカウントで詐取する相手を信じ込ませているという。
AIを巡っては国際的にも犯罪利用のほか偽ニュースや偽映像の拡散が問題となり、画像や音声を作り出す生成AIを含めたルール整備が喫緊の課題となっている。