ＡＩ規制 ＥＵ案の光と影④ 個人情報保護法強化を
情報産業研究者 高野嘉史さんに聞く
欧州連合（ＥＵ）欧州委員会の人工知能（ＡＩ）規制案をみると、本規制案は有用であり、日本でも人権を守る厳格な仕組みとして早期の導入を図る必要があると考えられます。他方で、日本での導入を検討するに当たっては、ＥＵ規制案の影の部分も見過ごすことはできません。
ＥＵのＡＩ規制について説明するマルグレーテ・ベスタガー欧州委員会副委員長（左）とティエリー・ブルトン欧州委員＝4月21日、ブリュッセル（ロイター）
乱用の可能性
第１に、顔認証などの生体認証技術は、公共空間における警察などによる法執行目的での利用は「原則禁止」されますが、原則としてというところが問題です。「特定かつ実質的な緊急の人命に対する脅威、またはテロリストによる攻撃への対処」、「犯罪者、犯罪容疑者の発見、現在地の把握、同定、または起訴」のためには、有効な法的根拠と適切な監督の下で例外的に使用が認められることになっています。具体的な運用次第では大変危険なものになります。
新型コロナウイルスの感染が拡大する中で、私権を制限して個人の行動追跡を可能にしようとする動きまである現状では、警戒が必要です。いったん拡大した利用方法は乱用される可能性があります。中立の第三者機関による監視が重要です。
第２に、教育・職業訓練の分野、採用や業績管理などの労働者管理の分野、公的な分野へのＡＩシステムの導入では基本的な人権の侵害が危惧されます。いくら利用者に対する透明性の確保と情報の提供が義務づけられても、求職者、労働者や生活保護の申請者は弱い立場に置かれます。同調圧力の働く日本社会では企業・自治体などの説明を一方的に受け入れざるを得ないケースが多いのではないでしょうか。ＡＩシステムを適用される側の弱者を保護する仕組みが不可欠です。
第３に、移民・難民・国境管理のためのＡＩシステムの使用にも問題があります。日本では出入国管理における人権侵害事例がしばしば表面化しており、慎重な取り扱いが求められます。
第４に、革新的なＡＩシステムの開発を促進するために、規制のサンドボックス（実証制度）を設け、ＡＩシステムの試験、実証的な評価を行うことができるとしています。これ自体は必要なことだと考えられますが、日本では「生産性向上特別規制法」のように規制のサンドボックスがさまざまな分野の規制を実質的に骨抜きにするために使われることがあります。骨抜きが行われないよう、規制のサンドボックスの適用には第三者機関による承認制度など監視の仕組みを入れることが必要です。
第５に、ＥＵの競争力強化の下心がみえることです。規制導入の目的の一つにもＡＩへの投資と技術革新を促進し、ＥＵ統合市場を発展させることがうたわれています。ＥＵ各国の企業がいち早く規制案に対応する一方、規制への対応が遅れる日本企業が競争上不利になることも考えられます。経営資源の貧弱な中小企業が実質的にＥＵ市場から締め出されることにもなりかねません。ＡＩの分野では新興企業の事業展開も重要です。中小企業に対する政府の支援が求められます。
ＥＵ域外からＥＵ向けにＡＩ製品・サービスを提供する企業は、ＥＵ域内に文書で委任した権限を持つ代理人の任命を義務づけられていることも注目されます。この手続きが日本企業にとって過重な負担とならないような配慮が求められます。
制度化早急に
極めて重要なのは個人情報保護法の強化です。日本の個人情報保護法には、機械のみによるプロファイリングの禁止や「忘れられる権利」など、ＥＵにあるような規定がありません。ＡＩの利用拡大に伴って個人情報の取り扱いが増大することは目にみえており、個人情報保護法の改正による保護の強化が不可欠です。
日本でも、ＥＵの規制案の影の部分にも着目したＡＩシステム規制を早急に制度化することが求められます。（おわり）
「しんぶん赤旗」日刊紙 2021年5月15日付掲載
顔認証などの生体認証技術は、公共空間における警察などによる法執行目的での利用は「原則禁止」されますが、原則としてというところが問題。「特定かつ実質的な緊急の人命に対する脅威、またはテロリストによる攻撃への対処」、「犯罪者、犯罪容疑者の発見、現在地の把握、同定、または起訴」のためには、有効な法的根拠と適切な監督の下で例外的に使用が認められることに。
極めて重要なのは個人情報保護法の強化です。日本の個人情報保護法には、機械のみによるプロファイリングの禁止や「忘れられる権利」など、ＥＵにあるような規定がない。
情報産業研究者 高野嘉史さんに聞く
欧州連合（ＥＵ）欧州委員会の人工知能（ＡＩ）規制案をみると、本規制案は有用であり、日本でも人権を守る厳格な仕組みとして早期の導入を図る必要があると考えられます。他方で、日本での導入を検討するに当たっては、ＥＵ規制案の影の部分も見過ごすことはできません。
ＥＵのＡＩ規制について説明するマルグレーテ・ベスタガー欧州委員会副委員長（左）とティエリー・ブルトン欧州委員＝4月21日、ブリュッセル（ロイター）
乱用の可能性
第１に、顔認証などの生体認証技術は、公共空間における警察などによる法執行目的での利用は「原則禁止」されますが、原則としてというところが問題です。「特定かつ実質的な緊急の人命に対する脅威、またはテロリストによる攻撃への対処」、「犯罪者、犯罪容疑者の発見、現在地の把握、同定、または起訴」のためには、有効な法的根拠と適切な監督の下で例外的に使用が認められることになっています。具体的な運用次第では大変危険なものになります。
新型コロナウイルスの感染が拡大する中で、私権を制限して個人の行動追跡を可能にしようとする動きまである現状では、警戒が必要です。いったん拡大した利用方法は乱用される可能性があります。中立の第三者機関による監視が重要です。
第２に、教育・職業訓練の分野、採用や業績管理などの労働者管理の分野、公的な分野へのＡＩシステムの導入では基本的な人権の侵害が危惧されます。いくら利用者に対する透明性の確保と情報の提供が義務づけられても、求職者、労働者や生活保護の申請者は弱い立場に置かれます。同調圧力の働く日本社会では企業・自治体などの説明を一方的に受け入れざるを得ないケースが多いのではないでしょうか。ＡＩシステムを適用される側の弱者を保護する仕組みが不可欠です。
第３に、移民・難民・国境管理のためのＡＩシステムの使用にも問題があります。日本では出入国管理における人権侵害事例がしばしば表面化しており、慎重な取り扱いが求められます。
第４に、革新的なＡＩシステムの開発を促進するために、規制のサンドボックス（実証制度）を設け、ＡＩシステムの試験、実証的な評価を行うことができるとしています。これ自体は必要なことだと考えられますが、日本では「生産性向上特別規制法」のように規制のサンドボックスがさまざまな分野の規制を実質的に骨抜きにするために使われることがあります。骨抜きが行われないよう、規制のサンドボックスの適用には第三者機関による承認制度など監視の仕組みを入れることが必要です。
第５に、ＥＵの競争力強化の下心がみえることです。規制導入の目的の一つにもＡＩへの投資と技術革新を促進し、ＥＵ統合市場を発展させることがうたわれています。ＥＵ各国の企業がいち早く規制案に対応する一方、規制への対応が遅れる日本企業が競争上不利になることも考えられます。経営資源の貧弱な中小企業が実質的にＥＵ市場から締め出されることにもなりかねません。ＡＩの分野では新興企業の事業展開も重要です。中小企業に対する政府の支援が求められます。
ＥＵ域外からＥＵ向けにＡＩ製品・サービスを提供する企業は、ＥＵ域内に文書で委任した権限を持つ代理人の任命を義務づけられていることも注目されます。この手続きが日本企業にとって過重な負担とならないような配慮が求められます。
制度化早急に
極めて重要なのは個人情報保護法の強化です。日本の個人情報保護法には、機械のみによるプロファイリングの禁止や「忘れられる権利」など、ＥＵにあるような規定がありません。ＡＩの利用拡大に伴って個人情報の取り扱いが増大することは目にみえており、個人情報保護法の改正による保護の強化が不可欠です。
日本でも、ＥＵの規制案の影の部分にも着目したＡＩシステム規制を早急に制度化することが求められます。（おわり）
「しんぶん赤旗」日刊紙 2021年5月15日付掲載
顔認証などの生体認証技術は、公共空間における警察などによる法執行目的での利用は「原則禁止」されますが、原則としてというところが問題。「特定かつ実質的な緊急の人命に対する脅威、またはテロリストによる攻撃への対処」、「犯罪者、犯罪容疑者の発見、現在地の把握、同定、または起訴」のためには、有効な法的根拠と適切な監督の下で例外的に使用が認められることに。
極めて重要なのは個人情報保護法の強化です。日本の個人情報保護法には、機械のみによるプロファイリングの禁止や「忘れられる権利」など、ＥＵにあるような規定がない。
トータル
