【社説②・04.07】：性的偽画像 被害を防ぐ対策の検討を急げ

【社説②・04.07】：性的偽画像　被害を防ぐ対策の検討を急げ

　『漂流する日本の羅針盤を目指して』：【社説②・04.07】：性的偽画像　被害を防ぐ対策の検討を急げ

　生成ＡＩ（人工知能）を悪用した、性的な偽画像や偽動画の被害が国内でも深刻化しつつある。被害を防ぐ対策の検討を急がねばならない。　

　生成ＡＩの進歩で、巧妙な偽の性的画像や動画を誰でも簡単に作れる時代になった。インターネット上には、性的偽画像や動画の作り方を紹介するサイトが多数存在している。ＡＩ技術の進化がもたらした負の側面の一つだろう。

　米国のセキュリティー会社の調査では、２０２３年にネット上で確認された偽動画は約９万６０００本で、１９年の５倍を超えた。全体の９８％は性的な内容だった。

　被害に遭っているのは、多くが芸能人だが、卒業アルバムから入手した知人や同級生の顔写真などが勝手に使われるケースもある。ＡＩ技術の悪用によるリスクは、身近に迫っている。

　ひとたび偽画像がネットに流れると、すべてを削除することは難しい。知らぬ間に画像を使われた人が「いつ、誰に見られるか分からない」とおびえ、心に傷を負うような現状は放置できない。

　海外では性的偽画像の作成や所持を禁じる動きがある。これに対し日本では、名誉 毀損 きそん などの実害が生じた場合、罪に問われるケースはあるが、偽画像の作成そのものを禁じる法律はない。

　鳥取県は、生成ＡＩで子供の顔写真を加工して作った性的な偽画像や動画を「児童ポルノ」と規定し、作成や提供を禁止する改正青少年健全育成条例を施行した。

　児童買春・児童ポルノ禁止法は被害者が実在していることが、適用要件だが、ＡＩの偽画像は「実在」の証明が難しい。そのため県は条例の制定で、実在性にかかわらず適用できるようにした。

　ただ、こうした課題への対応は本来、国レベルで行うべきだ。ＡＩの法規制などを検討する国の有識者会議は、性的偽画像の問題もリスクの一つに挙げている。

　今国会で審議中の生成ＡＩに関する法案では、国民に対する悪質な権利侵害が発生した時は、政府がＡＩ事業者名などを公表する方針だが、罰則はない。これで被害を十分に防げるのか、議論を深めることが重要だ。

　民間と連携したネット監視の強化や相談窓口の整備も不可欠だ。ネット事業者も、本人の同意なく投稿された偽画像は削除するなどの措置を徹底する必要がある。

　学校や家庭での教育も大切になる。性的偽画像の作成や拡散が重大な人権侵害にあたることを、丁寧に教えてもらいたい。

　元稿：讀賣新聞社　朝刊　主要ニュース　社説・解説・コラム　【社説】　 ２０２５年０４月０７日 　０５：００：００ 　これは参考資料です。 転載等は各自で判断下さい。

【社説①・03.24】：AI法案 推進偏重で悪用防げるのか

【社説①・03.24】：AI法案　推進偏重で悪用防げるのか

　『漂流する日本の羅針盤を目指して』：【社説①・03.24】：AI法案　推進偏重で悪用防げるのか　

　政府は人工知能（AI）に特化した初めての法案を国会に提出した。技術の悪用を防ぐため国が事業者を調査し、指導や助言など対策を進めると定めている。事業者には調査への協力を義務付け、悪質な場合は名前を公表する。

　偽情報拡散などAIによるリスクが懸念される中、国民が抱える不安を和らげ、研究開発や活用を促す狙いだろう。しかし、法案に罰則規定は設けられていない。どこまで安全性を担保できるのか実効性が問われる。

　政府は法的拘束力のない指針に沿って、事業者側にリスク対策を求めてきた。規制すれば、他国と比べ出遅れている開発や利用を萎縮させ、国際競争力の低下につながりかねないという考えからだ。

　今回の法案はそうした方針の転換ではあるが、開発推進を優先する姿勢は変わっていない。AIを「経済社会の発展の基盤となる技術」と位置づけ、名称も「人工知能関連技術の研究開発および活用の推進に関する法律案」。安全性や透明性を高める取り組みは事業者に極力委ねている。

　確かにAI開発で日本は厳しい状況にある。米オープンAIや中国の新興企業「DeepSeek（ディープシーク）」などが台頭し、日本の遅れが目立つ。

　産業振興や安全保障にも欠かせない重要技術だけに、政府が挽回したいのも分かる。だが推進に偏り、安全性をおろそかにしてはならない。

　チャットGPTをはじめ生成AIの利用が急速に広まりつつある一方、AIを用いた偽情報拡散など犯罪や人権侵害は深刻化している。

　本物そっくりに画像を改変した「ディープフェイク」により著名人の声や画像を使った詐欺広告や偽の動画が拡散された例もある。顔写真を無断で性的動画に合成される犯罪にもつながっている。人間が介在しないAI兵器の実戦配備など軍事利用の懸念もある。こうした負の側面は見過ごせない。ネット検索と連動したAIで新聞など著作物が無断で学習される著作権侵害についても議論が不可欠だ。

　法整備を巡っても海外が先行している。欧州連合（EU）は昨年5月、世界初の包括的規制法を発効した。基本的人権を脅かす危険があれば使用を禁止するなどリスクに応じた規制をかけ、違反した場合は巨額の制裁金を科す。

　米国はバイデン前政権が高い性能を持つAIの安全評価を事業者に義務づけた。だがトランプ大統領が1月に破棄した。世界の姿勢が揺るがぬよう注視したい。先進7カ国（G7）は一昨年の広島サミットでAIを安全に使えるようにする国際ルール形成の枠組み「広島AIプロセス」に合意した。国際社会の課題としての認識が必要だ。

　生成AIに不安を抱く国民は多い。総務省によれば、利用経験者は9%で浸透には程遠い。民間投資額も米国の1%に過ぎない。AIを安全に使うためには、自国での開発が重要である。研究開発も利用も安心して進められるような法整備に向け、政府と与野党は議論を尽くすべきだ。

　元稿：中國新聞社　朝刊　主要ニュース　社説・解説・コラム　【社説】　 ２０２５年０３月２４日 　０７：００：００ 　これは参考資料です。 転載等は各自で判断下さい。

《社説①・03.24》：日本型のAI規制 実効性高め悪用防がねば

《社説①・03.24》：日本型のAI規制　実効性高め悪用防がねば

　『漂流する日本の羅針盤を目指して』：《社説①・03.24》：日本型のAI規制　実効性高め悪用防がねば

　人工知能（AI）の開発や利用を適切に進めるための法案を、政府が国会に提出した。AIに特化した初めての法整備となるが、問われるのは実効性だ。

　AIは偽情報の拡散や知的財産権の侵害など、さまざまなリスクを抱える。国民の権利や利益が侵された場合などに、政府が事業者を調査、指導できるようにして安全を確保するという。

• <picture></picture>

AIでは国境をまたいだ連携も進む。ソフトバンクグループが開いたイベントで対談する孫正義会長兼社長（左）と米オープンAIのサム・アルトマン最高経営責任者＝東京都千代田区で2025年2月、幾島健太郎撮影　

　学習データの偏りによって差別などを生まないためのガイドラインは既に整備されているが、法的拘束力はない。米欧が規制強化に動いたため、事業者の自主性に委ねる政策の転換を図る。

　欧州連合（EU）は2024年発効のAI規制法で、プライバシー侵害などの危険性が高い開発や利用を禁じ、罰則も設けている。米国はバイデン前政権下の23年、開発情報の政府への提供などを事業者に求める大統領令を出した。

　生成AIが登場し、ソーシャルメディアから軍事まで、幅広い分野で活用が進む。民主主義のシステムや安全保障に影響を及ぼす技術だけに、悪用を防ぐ仕組みが欠かせない。

　新法は、政府の調査に協力する義務を国内外の事業者に課すが、応じなかった場合の罰則はない。規制が強くなりすぎて技術革新が停滞する事態を避けるためだ。

　ただ、問題が見逃される可能性もある。EUの動向などを踏まえ、「日本型」が機能するか見極めなければならない。

　監視能力の強化も不可欠だ。政府は昨年、AIの安全性をチェックするための機関を、米英に次いで設置した。専門人材の育成や登用を急ぎ、リスクを評価する技術の開発と普及を進めるべきだ。

　デジタル技術は国境を越えて利用される。ルールを整備しても、主要国の協調を欠けば効果が薄れる点に留意が必要だ。

　懸念されるのは開発競争の過熱だ。トランプ米大統領はバイデン前政権の大統領令を破棄し、活用に前のめりになっている。中国では新興企業のディープシークが台頭する。営利が優先されれば、安全の視点がなおざりになる。

　リスクを排除しながら活用を進める上で、規制は重要な役割を担う。安全なAIが競争力を持てるような制度の構築が急がれる。

　元稿：毎日新聞社　東京朝刊　主要ニュース　社説・解説・コラム　【社説】　 ２０２５年０３月２４日 　０２：００：００ 　これは参考資料です。 転載等は各自で判断下さい。

【社説①】：ＡＩのルール まずは国内で規制に取り組め

【社説①】：ＡＩのルール　まずは国内で規制に取り組め

　『漂流する日本の羅針盤を目指して』：【社説①】：ＡＩのルール　まずは国内で規制に取り組め

　生成ＡＩ（人工知能）の危険性を国際社会に訴えていく意義は大きい。ただ、国内でＡＩの開発を優先していては説得力を欠くのではないか。　

　まずは国内でＡＩの法規制を強化する必要がある。

　パリで開かれた経済協力開発機構（ＯＥＣＤ）の閣僚理事会で、ＡＩの規制と活用の両立を図るため、新たな国際枠組みを創設することで合意した。岸田首相が報告したもので、加盟国を中心に約５０か国・地域で構成する。

　生成ＡＩを巡っては昨年末、既に先進７か国（Ｇ７）が国際ルールをまとめている。

　このルールでは、ＡＩの開発者に対し、市場でＡＩの技術を活用する前に、犯罪を助長する恐れがないかなどリスクの点検を求めた。また、ＡＩが作った画像かどうかを判別するため、電子透かしなどの技術の導入も提案した。

　今回、ＯＥＣＤが新たな枠組みを作ることで合意したのは、Ｇ７がまとめたルールをより多くの国で共有する狙いがある。

　欧州では、ＡＩで作った偽情報や動画が、選挙を混乱させかねないといった警戒感が強まっている。日本ではＳＮＳ上に、著名人が投資を呼びかける偽の広告が氾濫し、詐欺被害が広がっている。

　ＡＩの負の側面を直視し、危険性を取り除くことは国際社会全体の課題と言えるだろう。

　政府は、今回の枠組み作りを主導し、参加国の共感を得た。一方、国内ではこれまで著作権法の改正には取り組まず、ＡＩの規制に消極的だ。業界の自主規制にとどめ、活用に積極的になっている。

　日本は２０１８年、著作権法を改正し、著作権者の許可なく文章やイラストなどをＡＩに学習させることを認めた。

　この状態を放置していたら、芸術家やクリエイターらは創作活動への意欲を失うだろう。著作物を含む知的財産の重要性を政府はどう考えているのか。

　首相はＯＥＣＤでの演説で、ネット上にある情報の真偽を区別するための技術開発を支援する考えを表明した。

　現在、報道機関などが研究している、第三者機関が情報の信頼性を保証し、画面上に表示する「オリジネーター・プロファイル（ＯＰ）」を念頭に置いたものだ。

　そうした技術開発を支援することは大切だが、ＡＩのリスクはそれだけで低減されるものではない。法規制を進めている欧州を参考に、著作権法の再改正を含めて検討すべきだ。

　元稿：讀賣新聞社　朝刊　主要ニュース　社説・解説・コラム　【社説】　 ２０２４年０５月０４日 　０５：００：００ 　これは参考資料です。 転載等は各自で判断下さい。