AIにおける倫理問題(倫理は誰が守る？)

AIの倫理

AIの社会に大きく関わることで

浮上するのが倫理問題である。

 

倫理は法律・慣習・道徳など

を含めた人間の価値観に影響

を与える善悪に関する領域で、

元来は、人間の道具である機

械が関わる領域ではない。

 

しかし、AIには従来の機械に

無かった高度な判断を行う能

力があり、現在では、人間が

関わる膨大な情報を瞬時に処

理できる、数少ない存在とな

りつつある。

 

場合によっては、人間よりも

信頼のおける判断ができる。

 

その結果、AIは人間だけが扱

えていた善悪を含めた価値観

に影響を与えられるほどの存

在となった。

 

ところが、ここで問題が生じ

るのである。

 

それは、

①その価値観に正解がない、

②統計的な多数派が正しい

　わけではない、

という点である。

 

AIは、正解がなくても学習が

できる存在で、子どものよう

に人間の価値観を学ぶ。

 

それ故、答えのない問題に対し

て、AIに何をどう教えるべきか

という議論を怠れば、AIは社会

に悪影響を及ぼす存在となる可

能性は大いにある。

 

＜人間とAIの相違＞

1⃣人間

(法律・慣習・善悪

・道徳・常識)

＝倫理

　　　↓↓

倫理問題は、大抵の場合

議論や多数決で終了する。

　　　↓↓

ひとつの倫理的な判断が

社会に波及する。

 

2⃣AI

AIは、統計的に正しいことが

、正しいものだと判断する。

＝AIの判断

↓↓

倫理問題を含む判断でも

開発者のアルゴリズムで

決定する。

↓↓

ひとつの倫理的な判断が

社会に波及する。

 

AIの責任の所在

さらに、大きな課題がある。

 

それは、AIは自らが起こした

問題に対して責任を負えない、

という課題である。

 

仮に、責任を負えたとしても、

影響を及ぼす領域によっては

責任を問えないのである。

 

また、使用者である人間が責任

を負うとしても、AIは、従来の

プログラムのように実行ボタン

を押した後の動作が、明確に

判断できるわけではない。

 

状況に応じて柔軟に判断をする

AIによって起きた問題の責任が、

使用者や開発者、

あるいは、

司法や行政など、

どこにあるのかを、正確に特定

することは、かなり難しい。

 

それ故、最終的に、誰が責任を

負うべきかについて、事前に明

確なルールを定めておく必要が

ある。

 

それが法律、規約、契約、手順

書等、どのような形で記載され

るか不明だが、

「予め、議論して決めたルール」

である点は、同意義である。

 

このようなルール作りのベース

となるのが、

「AIの倫理」

に関する基本的な議論である。

 

＜責任の所在＞

1⃣有人運転で、電柱に衝突した

場合、責任はユーザーにある。

2⃣無人運転(自動運転）で、電柱

に衝突した場合、車は責任を

取れないので、ユーザーかメー

カーのどちらかに責任がある。

↓

ユーザー：車が電柱の前で止まら

なかったので、故障の

可能性があり、メーカー

に責任がある。

メーカー：車の定期的な検査や

使用頻度による劣化

などが原因の可能性

として考えられるので

ユーザーに責任がある。

↓

結局のところ、責任の所在は不明。

最終は、契約内容に委ねられる。

 

 

AIの判断

AIの思考過程を理解出来ない事が

責任の所在に関する大きな課題で

あったが、仮に思考過程が理解で

きたとしても、思考過程に誤りが

あった場合に、

「どういう方向で修正すべきか」

という問題が生じる。

 

二者択一の問題で考えてみる。

アメリカの哲学者ジュディス・トム

ソンが発案した「トロッコ理論」で

ある。

 

二者択一の問題は、

➀命の恩人である他人を見殺しに

　するか、

➁命の恩人である他人を助けるた

　めに、血の繋がった親族を見殺

　しにするか、

という状況判断に関する問題であ

る。

 

倫理的な思想・立場によって解答

が変わる問題で、人間の場合は自

らの思想・信条に基づいて行動し、

自らがその責任を負う。

 

一方、AIの場合は、設定された優

先順位に基づいて行動し、その設

定は複製されて社会全体に影響を

及ぼす。

 

つまり、開発者の思想・信条が社

会全体の問題に変化する、

ということである。

 

特に、AIが商品として提供される

場合は、問題は深刻かつ複雑で

ある。

 

商品である以上、

➀お金を払ったユーザー

➁スポンサー

が優先される設計であり、周囲へ

の影響や被害が軽視される可能性

が大いにある。

 

AI搭載の医療機器では、患者の命

の保護が優先されるため、患者の

激痛や周囲への悪影響の増大が

懸念されている。

 

＜AIの優先順位＞

1⃣生成AIで看護師の業務をこな

す場合、モニターの付いた患

者にアラームがなっていたの

で、AIは、アラームを消す処

置をするために症状の改善を

促す薬の投与をする。

↓

命の危険は回避されたが、患者

の激痛への対処が不十分となる。

 

2⃣人間の看護師が業務をこなす

場合、モニターの付いた患者

にアラームがなっていたので、

アラームの原因を確認して、

症状の改善を図るための薬の

投与をする。

同時に患者の苦しみに目を配

りながら、痛みの緩和に繋が

る処置をする。

↓

生成AIは、数十人の看護師の

業務をこなし、患者の命を助

けることを優先に設定される

ため、患者の激痛に気付かな

かった。

↓

患者の命を救うことを優先した

生成AIに投資した病院が優先さ

れる設定になると、激痛に苦し

む患者が増えて、弱者が損をす

る社会に進むことになる。

 

 

AI倫理の方針

ロボットの3原則がSFの中で誕生

したが、現実社会では十分に機能

しない。

 

最近、世界中で討論されている、

「AI利用の倫理上のポイント」

をまとめると、

➀social profit、

➁impartialとfairness、

③social responsibility、

④date management

⑤trustとsafety、

↓↓

➀利益

➁正しさ

③責任

④データと管理

⑤信頼と安全

がAIの普及に際して約束される

べき事項として挙げられている。

 

人間と違って、AIの倫理方針は

AIの設計・使用時に開発者や使

用者が留意すべきものであり、

AIが勝手に守ってくれるルール

ではない。

 

AIに関わる全ての人間が倫理方

針を頭に入れ、AIの開発や運用

に倫理的な問題がないかを考え

続ける必要がある、

というわけである。

 

深井ITゼミナール

 

生体認証、心理状態をAIに推定される時代

広がる顔認証

顔の画像を分析し、その人が

誰なのかを判別する技術が急

速に普及してきた。

 

便利な情報社会を実現する

半面、プライバシーを侵害

する恐れもあり、心の中ま

で見透かされる時代が近づ

いている。

 

支配する材料

人は、

印鑑、

顔写真、

身分証明書、

暗証番号、

など、本人確認のため

に多くの方法を使って

いる。

 

最近はスマートフォン

の操作で暗証番号の

代わりに、

自分の顔の画像

を使う人も多い。

 

このように、自分

であることの証明

は、人類史のいつ

から、なぜ必要に

なったのか？

 

少数の集団で暮らして

いた頃は、互いに顔見

知りで、本人である事

の証明が不要であった。

 

だが、別の集団に移動

すると、自分は誰なの

かを証明する必要が生

じた、

と考えられる。

 

文明誕生で社会構造が

複雑になり、人口も増

えると顔見知りの人間

関係だけでは管理でき

なくなり、契約や取引

等で印章や署名が使わ

れ始めたようである。

 

時が流れて、近代に入る

と、指紋を個人の識別に

使うようになった。

 

その理由だが、指紋は全て

の人で異なり、生涯変わら

ないことが発見されたから

である。

 

指紋を分類して登録してお

けば、身元を短時間で割り

出せるため、犯罪捜査に

大きな威力を発揮した。

 

そんな指紋だが、世界では

いつ頃、指紋の導入が行わ

れたのであろうか？

 

「指紋による個人の識別」

は19世紀末、英国が植民地

のインドを統治するために

初めて導入した、

と言われている。

 

明治薬科大の准教授A氏に

よると、羊飼いや商人など

定住せずに放浪生活を送る

人々を管理するため、使い

始めた、

と言う。

 

A氏は、

「近代の国家は、国民の所

　在を把握して統治するこ

　とを目指してきた。

 

　定住せず移動を繰り返す

　人々には、身体の情報を

　使って管理する新たな手

　段が必要だった」

と指摘する。

 

この事は、現代にも当ては

まるという。

 

21世紀の人類は、活動の舞

台をインターネットに拡張

し、現実とネット空間を行

き来しながら縦横無尽に移

動する存在となった。

 

指紋や顔などの身体データ

を鍵として使えば、現実と

ネットの世界を結びつける

ことができる。

 

生体認証と呼ばれるこうし

た技術がオンライン社会で

普及してきたのは、ある意

味、必然と言えるであろう。

 

顔パスの功罪

生体認証が、世界に浸透した

契機は、2001年の米中枢同時

テロであった。

 

身元を偽り、国境を越えて移

動するテロリストの入国を阻

止するため、各国がパスポー

トに指紋と顔のデータを導入

した。

 

グローバルな時代を迎え、移

動する人々を統制する生体認

証の機能が改めて注目を集め

た形である。

 

生体認証では、

目の虹彩、

静脈の画像、

等も使われるが、最も便利

なのは、

顔認証、

である。

 

顔は1卵生双生児を除けば

千差万別で、衣服に覆われ

ることなく常に外部に晒さ

れており、離れた場所から

でも、歩きながらでも撮影

できる特徴があるからだ。

 

顔認証は

目、

鼻、

口、

の位置などの特徴から個人

を特定する。

 

近年は人工知能(AI)によっ

て精度が向上し、マスクを

着用しても特定が可能と

なった。

 

自分の顔の画像を登録して

おけば、利用時に顔を撮影

するだけで簡単に本人と

確認できる。

 

このため、

スマホ画面のロック解除、

Officeの入退室管理、

空港の出入国審査、

などで世界的に利用が拡大

している。

 

いわば、デジタル時代の

「顔パス」

である。

 

そんな中、財布やスマホを

持たず、手ぶらで顔を撮影

するだけで買い物ができる

サービスも登場しつつある。

 

ただ、懸念もある。

 

暗証番号は変更できるが、顔は

整形手術をしない限り、変更

できない究極の個人情報なので、

漏洩すると取り返しのつかない

リスクを負う。

 

例えば、スマホで盗撮したり、

撮影時に偶然写り込んだ人の

顔を交流サイト(SNS)の写真

などと照合・検索すると、個

人を特定できる場合があり、

位置情報から自分が

いつ、

どこで、

誰、

と行動していたのかまで

勝手に特定されてしまう

恐れがある。

 

このため、国立情報学研究

所の教授は、自分の顔をカ

メラに検出されることを防

ぐ眼鏡型の特殊な器具を開

発した。

 

教授は、

「自分のプライバシーは自

　分で守り、自らコントロ

　ールしていくことが大事

　だ」

と話す。

 

顔は単なる体の一部ではなく、

人間のアイデンティティー

そのものである。

 

だが、最近は若い世代を中心に、

顔認証を利用することに不安を

感じない人が多いという。

 

リスクよりも、デジタル技術の

利便性を優先する生き方とも

いえる。

 

さらに、監視カメラによるプラ

イバシーの侵害も懸念される。

 

世界中の駅や街頭、商業施設など

に膨大なカメラが設置され、不特

定多数の人の顔が撮影されている。

 

それを識別し、様々なデータと紐

づけることで、個人の監視や追跡

を行うことが技術的に可能である。

 

治安の向上に役立っている半面、

撮影した画像を誰がどのように

利用しているのか不透明なケース

も多い。

 

店舗のカメラは防犯だけでなく、

どのような人が何を買ったか、

といった

「顧客分析」

にも利用されることを知らない人

もいるだろう。

 

顔認証の技術が進歩した今日、

知らないうちに顔を撮影される

のは、同意なく指紋を取られる

のと同じ状況と言える。

 

民間シンクタンクの国際社会

経済研究所の主幹研究員は、

「監視カメラの無秩序な利用

　は、プライバシーだけでな

　く、公共空間の移動の自由

　を侵害する。

 

　常に誰かに見られ、匿名性

　が保証されない息苦しい社

　会を招く。

 

　公共の利益と個人の権利の

　バランスが重要だ」

と警鐘を鳴らす。

 

感情の推定も可能

顔認証は、近年さらに進歩し、

心の状態を推測する技術

も開発された。

 

表情や視線などをAIが分析し、

その人の内面の感情や思考、

意図を推定するものである。

 

例えば、米国では、オンラ

インの採用面接を受けた人

の認知能力や協調性を推定

し、適性を判断するのに

使われた。

 

嘘をついているかどうかも

分かるとされ、欧州では国

境での検問で試験的に使わ

れた例がある。

 

中国では、治安目的なので

広く利用されている、

という。

 

だが、人の外観から感情を

推定するのは、科学的な根

拠が希薄で、信頼性が無い

との批判が根強い。

 

表情によって犯罪を行う恐

れがあると判定されれば、

人間の尊厳を侵害しかね

ない。

 

加えて、内心の自由を脅か

す影響も深刻である。

 

AIによる感情の推定が現実と

なれば、気持ちを探られない

ように無表情になったり、無

理に笑顔を作ったりする人が

増えるかもしれない。

 

そういう不安に付け込んで

不要な商品を買わされる

など、思考や行動を操作

される恐れがある。

 

とは言え、人間をデータ化

し、識別する生体技術は、

権力にとって有益な道具で、

国家は、利用を広げたい欲

望に駆られている。

 

例えば、人権を重視する欧州

などでは、

規制の議論

が進んでいるが、

独裁国家では利用が加速し、

体制に批判的な人々の抑圧

や思想統制に使われていく

可能性が否定できない。

 

言うまでもなく、世界の覇権

を狙う中国は、

生体認証、

カメラによる監視、

が最も進んでいるとされる。

 

結局、人類の未来は、心の

中まで見透かされる

「超監視社会」

になってしまうのか？

 

その行方は、台頭する強権

主義に民主主義がどこまで

対抗できるかにかかって

いる、

と考えられる。

 

 ＜データと資料＞

 

深井ITゼミナール

 

デジタル社会の盲点と危険な依存

驚異的なシステム障害

世界的な大規模システム障害は、

運輸や金融といった基幹インフラ

に打撃を与えたほか、病院や政府

機関にも影響が出て、7/20も一部

で、余波が残ったが、混乱は収束

へと向かった。

 

原因となったセキュリティソフト

を提供する、

「米IT企業クラウドストライク」

は、＜前例のない規模＞の復旧

作業を急いだ。

 

また、航空情報サイト、

「フライトアウェア」

によると、7/19には世界で4万

便超が遅延し、5千便以上が欠

航した。

 

そんな中、日本国内の空港では

7/20、概ね通常通りの運航に

戻った。

 

そもそも、障害は、米IT大手

マイクロソフト(MS)の基本

ソフト(OS) Windows搭載の

システムで発生した。

 

原因は、クラウドストライクの

「ソフトの更新プログラム上の

　欠陥」

であった。

 

とは言え、今回の大規模障害は、

ITサービスを一握りの企業に

頼る脆弱性をあらわにした。

 

この脆弱性により、

7/26に開幕したパリ五輪の各国

選手団の到着便やユニフォーム

の配送に影響したほか、

米国の一部で緊急通報にも影響

が出た。

 

この混乱で、7/19のニューヨーク

株式市場では、主要な株価指数が

下落し、クラウドストライクの

株価は前日比で11%以上急落した。

 

現在、クラウドストライクの

ソフトは、サイバー攻撃への

先端的な対策とされ、各国の

名だたる大手企業が採用して

いる状況である。

 

その1社である、MSの最高経営

責任者(CEO)は7/19、自身のX

(旧ツイッター）に、

「問題を認識している。

　クラウドストライクや業界

　全体と緊密に連携して、顧

　客のシステムを安全に復旧

　する支援をしている」

と投稿した。

 

大混乱の中、クラウドストライク

は、問題を特定して修正を適用し

たという。

 

とは言え、今後、各社でセキュリ

ティー対策の見直しが進む可能性

が大いにある。

 

クラウドストライク

花形が失墜

「顧客、旅行者等、障害の影響を

　受けたすべての人に深くお詫び

　する」

クラウドストライクの最高経営

責任者(CEO)は、障害発生後の

7/19朝、米NBCテレビに出演し、

やつれた表情で陳謝した。

 

その日のうちに、株価は急落、

2011年の設立から急成長を

遂げた、

「ソフトウェア会の花形」

が失墜した。

 

混乱を招いた今回の障害は

日本時間7/19午後に突然、

始まった。

 

クラウドストライクが

セキュリティソフト、

「ファルコン」

の更新作業を始めた直後、

米マイクロソフト(MS)の

Windowsを搭載したパソ

コンなどに異常が出始め、

画面が青くなり、動作し

なくなる現象が頻発した。

 

特に、航空会社への影響が

顕著であった。

 

要因はサイバー攻撃への

防御力を高めるため、通

常行っている更新作業の

プログラムにバグがあった

ためである。

 

「1回のアップデートが

　世界中の多くのウィン

　ドウズシステムをダウ

　ンさせた」

と、MS関係者は話した。

 

一気に拡大

ファルコンは、パソコンなど

の端末をサイバー攻撃から守る、

「エンドポイントセキュリティ」

と呼ばれる機能を持つ。

 

この機能は、端末の不審な動作や

通信を、クラウドを通じて常時

監視し、被害を最小限に抑える

仕組みである。

 

現在では、当たり前のことだが、

新型コロナウイルスの世界的

な流行以降、外部からVPN

(仮想専用線)機器を使って

システムに接続するリモート

ワークが増えた。

 

この接続の欠陥を狙って、

身代金要求型ウイルス

「ランサムウェア」

などに、感染させるサイバー

攻撃の被害が拡大し、端末側

でのセキュリティ対策を後押

しした。

 

クラウドストライクは、この

波に乗って顧客基盤を拡大、

世界の大企業など3万近くを

抱えるトップクラスのセキュ

リティー企業に成長したので

ある。

 

このように、顧客側が少数の

IT企業への依存を高めたこと

で、障害の規模が一気に拡大

した。

 

本来、サイバー攻撃を防ぐ取り

組みが、逆に攻撃を受けたかの

ような大規模な障害を招く結果

となった。

 

VPNとは？

VPNとは、

「Virtual Private Network」

の略称で、日本語にすると、

「仮想専用通信網」

を意味する。

 

VPNで、インターネットに

接続することを、

「VPN接続」

と言うが、この場合、専用

ネットワークとは言いつつ

も、物理的な専用回線を

持つのではない。

 

「仮想」専用通信網と言う

ように、共用の回線を諸々

の技術によって、仮想的に

独立した専用回線であるか

のように扱うのがVPN接続

である。

 

例えば、共用回線を通常通り

に使うことは、社車が一般道

を通って移動する事と同義で

ある。

 

車が一般道を通る場合、他車

と共有して走るものであるため

コストが割安で済むが、その分、

信号機や踏切といった車の停止

をさせられたり、人身事故と

いったアクシデントに遭遇した

りする。

 

この負の出来事をウイルス攻撃

と考えれば、常にウイルス感染

の可能性が存在しているので

ある。

 

一方で、物理的な専用回線を

引くことは、極秘の私道を

自社用に作り、それを用いて

必要な移動をする事と同義で

ある。

 

これは非常に安全で快適で

あるが、実現するためには

多額のコストが必要となる。

 

そういう意味では、現実的

ではない。

 

これに対して、VPN接続は、

公共の高速道路を自家用車

で移動する事と同義である。

 

高速道路自体は共用のもの

であるが、車内という一定

空間において、そのプライ

バシーやセキュリティは

ある程度確保される。

 

しかも、一般道と違って、

信号機はない上、速度は

ある程度出せるし、人身

事故を起こす可能性は

非常に低いのである。

 

前述したように、信号機

がないこと、人身事故と

いうアクシデントがない

ことは、ウイルス感染の

可能性が小さくなる、と

考えるべきである。

 

勿論、コストも低く抑え

られるので現実味がある。

 

つまり、VPN接続は、物理

的な専用回線を引くよりも、

コストを抑えることができ、

共用回線を普通に使うより

もウイルス感染が少ないため、

安全性を担保できるのである。

 

それ故、VPN接続は、公共の

Wi-Fiを利用する場合や複数の

拠点でLANを接続する場合に、

通信環境の安全性を強化する

目的を最優先にして使用され

るのである。 

 

 

MSクラウド不具合

各国の報道によると、

 

アメリカン航空やデルタ航空

など、米国の大手航空会社は

7/19、通信障害を理由に早朝

から運航を見合わせた。

 

ドイツの空港でも、航空機が

一時発着できなくなったほか、

トルコ航空は80便以上の運航

を取りやめた。

 

アラブ首長国連邦(UAE)の

ドバイ国際空港でも複数の

航空会社のチェックイン

システムに影響した。

 

英国ではエディンバラ空港の

搭乗ゲートに不具合が発生した。

病院では患者の情報にアクセス

できず、診察に影響した。

また、民放スカイニューズ・

テレビの放送が一時中断、という

状況となった。

 

オーストラリアでは、

公共放送ABCのテレビ放送で

一時映像が流せなくなった。

 

インドやシンガポールなどの

アジア諸国でも様々な被害が

出た。

 

不具合の影響は、日本国内にも

拡大した。

 

各地の空港などでは乗客が困惑

する様子が見られた。

 

成田空港では7/19午後、不具合

の影響で搭乗手続き等に関する

システムに障害が発生。

 

成田国際空港会社などによると、

少なくとも航空会社5社の運航に

影響が出た。

 

関西国際空港でも、搭乗手続き

が遅れ、多くの利用客で混み

合った。

 

羽田空港では複数の航空会社の

システムに障害が発生した。

同空港のデルタ航空の出発カウン

ターでは午後6時半過ぎ、ハワイ

・ホノルル行きの便に乗るはず

だった人たちの列ができていた。

 

格安航空会社(LCC)ジェットスター

・ジャパンは、搭乗手続きなどの

システムに障害が生じたと明らか

にした。

 

関空のジェットスターのカウン

ター前ではスタッフからの説明

を待つ客が列を作った。

並んでいた男性は

「便が突然キャンセルになっ

　た。何があったのか分から

　ない」

と途方に暮れていた。

 

日本航空(JAL)でも予約管理シ

ステムに障害が生じた。

国際線では航空券の新規予約

や購入、取り消しなど全ての

サービスが同社サイト上で使

えなくなった。

 

一方、コンビニの大手である

セブンーイレブンやファミリー

マートでは、

全国的にプリペイドカードや

電子ギフトカードを販売しづ

らい状況が発生した。

 

関西ではJR西日本で、午後2時

22分からアプリやホームページ

上で列車の走行位置を確認できる

システムで障害が発生した。

一部エリアで走行位置が確認でき

なくなった。

 

ユニバーサルスタジオジャパン

(USJ)でも午後2時頃から、販売

情報を管理するPOSシステムに

障害が生じ、園内にある9割以上

のレストランや物販店で会計でき

ない状態が続いた。 

 

デジタル化の弱点

米IT企業「クラウドストライク」

のソフトウェアの一瞬のトラブル

が、利用者の多い基本ソフト(OS)

のWindowsを通じて、世界を瞬く

間に混乱に陥れた。

 

その混乱は、各国の航空運航の停止、

病院や行政サービスも滞る事態へと

発展した。

 

史上最大級との指摘もある、今回

のシステム障害は、世界の大企業・

組織が一部のIT企業に依存する、

というデジタル社会の危うさを

露呈する結果を招いた。

 

深井ITゼミナール

 

 

司法のAI活用は可能か？

生成AIルール追い付かず

人工知能(AI)を使って文章や

画像を自動作成する「生成AI」。

 

その革新的な技術を使ったサー

ビスが、成長産業として加速度

的に広がる中、社会のルールが

追いついていない現状が浮き彫り

になっている。

 

例えば、

「著作権は誰に帰属するのか？」

「資格を必要とする業務を委ねる

　場合、法に触れないのか？」

このように、従来の枠組みが翻弄

される状況に、有効活用に向けた

指針の再構築が課題となっている。

 

司法のデジタル化、指針策定

司法のデジタル化は、

法律相談など活用を期待する、

といったプラス面、

一方で、弁護士法抵触の恐れ、

といったマイナス面、

がある。

 

そんな中、現在も紙資料が主流

の司法業界に、デジタル化の波

が寄せ始めている。

 

民事裁判をIT化する

「改正民事訴訟法」

が1昨年成立したのを

機に、デジタル技術を

活用した司法関連サー

ビスを提供する

「リーガルテック」

企業が登場。

 

成長分野として注目され

ているが、既存の制度と

の衝突や混乱を招く恐れ

もあり、法務省は

「リーガルテック」

に関する指針の作成を

急いでいる。

 

生成AIを活用した法律

相談のイメージを以下に

示すと、

＜日本の法律では、

　配偶者から受け

　た言葉の暴力に

　よる精神的苦痛

　が重大である場合、

　離婚の原因となる

「精神的不和」に

　該当することが

　あります。＞

パソコンの画面に

＜離婚を考えています＞

＜パートナーからの言葉

　の暴力がひどい＞

と打つと、上記のように

法律の専門家のような

メッセージが返ってきた。

 

対話型AI「チャットGPT」

を法律相談用に調整した

サービスで、過去の100

万件以上の相談内容を読み

込み、新たな質問に対する

回答を編み出しているので

ある。

 

また、同時に弁護士業務を

手助けするサービスも拡大

している。

 

具体的には、契約書の

「AIレビュー(審査)」

支援サービスで作成中の

契約書をシステムに読み

こませると、

＜損害賠償の上限額は

　定められていますか？＞

など、注意するポイント

が表示される。

 

人間が見落としがちなミス

を見つけてくれることで、

業務を効率化できるので

ある。

 

先進的なビジネスを担当

する政府の規制改革推進

会議の部会が1昨年、

成長産業としてヒアリング

対象とするなど、国からも

注目される、

「リーガルテック」

このサービスは、将来的には

準備書面の下書きや判例など

の下調べを担い、弁護士業務

の効率化に貢献できるように

なるだろう。

 

一方で、課題もある。

 

弁護士法では、弁護士資格の

ない者が報酬を得て具体的な

法律相談を行うことは、

「非弁行為」

として禁じられている。

 

一般人相手に有料で裁判書類

を作成するなど、

「リーガルテック」

のサービス内容が弁護士業務

に近づくほど、非弁行為と

判断される可能性は高まる。

 

法務省によると、既存のサー

ビスが明確に法律に反して

いるとする報告は、現在は

ないが、将来を見越し、

「リーガルテック」

に関する法解釈を整理する

指針の策定を進めている。

 

同省の担当者は

「リーガルテックは業務効率化

　による法務人材の人手不足

　解消にもつながる可能性も

　あり、引き続き注目して行く」

と話す。

 

著作権侵害、米で訴訟相次ぐ

生成AIをめぐる訴訟が米国で

相次いで起こされている。

 

原告は自分の作品が生成AIに

無許可で使用され、著作権が

侵害されたと訴えている。

 

訴訟の行方が生成AIの利用

範囲や著作物の扱いをめぐる

議論に影響を及ぼす可能性が

あり、注目されている。

 

在米アーティストのD氏は、

1昨年仲間と3人で画像生成AI

「ステーブル・ディフュー

　ジョン(SD)」

を開発した英企業を、著作権

侵害で西部カリフォルニア州

の連邦地裁に訴えた。

 

SDは、利用者が作りたい画像

の作風や模倣したい作家名など

を入力すると、SDが「学習」

済みのデータから新たな画像を

生成する。

 

訴状によると、英企業はドイツ

の非営利団体が研究目的で集め

た約60億の画像や文字データの

大半をSDに学習させたが、その

データにD氏の作品が断りなく

使われていたとしている。

 

米著作権法は、教育や研究など

一定要件を満たした場合、

「著作権侵害」に当たらない、

とする「フェアユース(公正な

利用)」を認めている。

 

一方で、ドイツの団体のデータ

を営利企業が利用したのは、

「脱法的」

とも指摘されている。

 

D氏は米紙への寄稿で、

「模倣作品には私の作風の

　特徴があった」

と述べ、補償を求めた。

 

英企業を巡っては米写真配信

大手も昨年、無断で1200万枚

以上の画像を使用されたとして、

東部デラウェア州の連邦地裁に

提訴した。

一方で、米メディアによると、

欧米の規制当局は、利用者が

詳細に指示し、生成AIが作成

した「作品」について、利用

者の権利を認める方向である。

 

人が独自性を引き出そうと知的

な努力を重ねた「作品」に関わ

る権利は、完全にコンピューター

が作った「AI生成」作品とは、

区別すべきだとの議論が優勢だ

という。

 

ただ、AI規制新法の制定へ動く

欧州連合(EU)が原案を2021年

にまとめた際には、SDや対話型

AI「チャットGPT」の利用が、

これほど早く広がると想定されて

いなかった。

 

生成AIを巡る日本の著作権保護に

ついては、AIが学習に用いる

データの保護法制が、他の先進国

に比べ非常に緩いと指摘する

専門家が多い。

 

司法のAI活用、初指針

政府は契約書審査の触法範囲

を示した。

 

その流れを以下に示すと、

政府は1昨年、デジタル技術を

活用した司法関連サービス

「リーガルテック」

に関する指針を初めて公表した。

 

人工知能(AI)を用いて契約書を

作成・審査するサービスについ

て、法律に抵触するケースを

整理し、経済の成長分野として

発展を促す狙いがある。

 

サービスの進展に伴い、指針の

改定も視野に入れている。

 

AIによる契約書審査サービス

などを巡っては、弁護士資格

のない者が報酬を得る目的で

弁護士と同等の業務を行う

「非弁行為」にあたる可能性

がある、との指摘も出ていた。

 

今回の指針では、非弁行為の

可能性があるケースについて、

➀報酬を得る目的で、

➁具体的な法律上の争いがある事件

　に関し、

③鑑定する、

　(法律上の専門知識に基づき見解

　を述べる)ー

という3つの条件を全て満たす場合

だと整理した。

その上で、➀～③すべてに該当

しても、企業に雇われた弁護士が

サービスを利用する場合は問題ない、

とした。

指針に従えば、具体的な法律上の

争いがない状況で作成されること

が多い企業間の一般的な契約書では、

現行のAIによる審査サービスが違法

性を問われることは基本的にないと

見込まれる。

 

一方で、訴訟中の企業との和解契約書

などの場合には、具体的な法律上の

争いがあるため、弁護士法が禁じる

「非弁行為」に該当する可能性がある。

 

会見で法相は、

「リーガルテックの健全な発展に

　繋がると期待する」

と述べた。

「混乱解消」業界関係者は安堵

AIを活用した契約書の審査サービス

を巡り、弁護士法に抵触しない範囲

が明示されたことで、業界関係者は

「混乱が解消される」と胸をなで下ろ

している。

 

法務省関係者によると、1昨年に新規

参入する業者からの問い合わせに対し、

同省が、

「違法の可能性がある」

と回答したことで、既存サービスまで

「違法ではないか」

との風評が広がった。

 

弁護士側からも、弁護士資格のない

AIが関与できる範囲を広げると、

「無資格のブローカーが法律上の

　トラブルに関与する余地ができる」

との懸念が寄せられていた。

 

一方で、政府の規制改革推進会議は、

昨年6月、改革の一環で、リーガル

テックに関する指針策定を提言。

結果として、法務省は業者や弁護士

からの不安の声や、契約書のAI審査

だけで数千以上の企業が利用する現状

も考慮し、詳細な内容の指針を公表

するに至った。

 

将来、裁判書類の下書きも可能!

政府が、今回公表した

「リーガルテック」

に関する指針は、一部の例外

を除き、現在、提供されてい

るAIを活用した契約書の作成・

審査サービスに

「問題はない」

とするものである。

 

とは言え、リーガルテックは

世界的にも発展途上で、今後

は最先端のサービス開発競争

が国内でも本格化しそうで

ある。

 

そんな中、

指針の公表を受け、契約書の

AI審査支援サービスを展開

する弁護士は以下のように

期待を口にした。

 

「新しいリーガルテックに

　企業が挑戦し、利用者が

　活用しやすい環境が整っ

　た。」

司法分野へのデジタル技術

適用を巡っては、以前から

判例のネット検索、

弁護士検索、

などがあったが、最近はAIの

導入事業者がしのぎを削って

いる。

 

その代表例と言えるのが、

AIの契約書審査支援である。

 

契約書を読み込ませると、

＜損害賠償の範囲に弁護士費用

　が明記されていません＞、

などと指摘し、修正案の提案や、

契約の更新期限を知らせたり

する。

 

これは、主に企業の法務部門で

活用が広がりつつある。

 

現行のサービスでは限定的な

機能が中心だが、

業界関係者は、

「契約書や裁判の準備書面の

　下書き作成、判例の収集・

　分析など、AIを活用する

　範囲が広がってくることが

　見込まれる」

　と将来図を描く。

 

そもそも、司法分野はAIの

活用に親和性が高いとされ

てきた。

 

その理由は、AIの性能向上

には膨大なデータが欠かせ

ないが、判例や学説を中心

に司法分野に膨大な

「文字データ」

の蓄積があるからである。

とは言え、現状は「紙」が

中心であるが、政府は今後、

民事訴訟の全判決文をデジ

タル化し、データベースを

構築する計画を進めており、

環境が整えばリーガルテック

は、さらなる向上が見込める。

 

それ故、法務省幹部は

「国際競争力の向上にもつな

　がるので、成長産業の健全

　な育成に協力して行きたい」

と話す。

 

深井ITゼミナール

 

 

デジタル化の未来都市

デジタル化の革新とリスク

人類の繁栄を牽引してきた空間は

都市である。

 

技術や社会を変革し、時代を動か

す原動力を生み出してきた。

 

近年はデジタル技術で都市を刷新

する試みが世界で加速しているが、

そこには新たなリスクが潜んで

いる。

 

現代文明の礎は何処に？

文明は約5000年前に古代メソポタ

ミアの都市で誕生した。

 

文字、暦、数学、法律、車輪、冶金

など現代文明の礎はいずれも都市で

生まれたものだ。

 

なぜ都市が重要なのか？

 

それは人が集まることで、技術や

社会にイノベーション(革新)が

起きるからだ。

 

多様な人々が交流すると異なる

知識が結合し、新たな発想や

技術が生まれる。

 

車輪と馬が結びついて馬車が

誕生したのが典型であろう。

 

都市は産業や経済だけでなく、

文化や学問の中心地でもある。

 

情報の共有と蓄積で教育や医療

も向上し、多くの人を引きつけ、

さらに繁栄して行く。

 

この構図は現代も変わって

いない。

 

都市の形成は、技術革新の

歴史と密接に関わっている。

 

大型帆船が登場した大航海

時代は貿易拠点として港湾

都市が栄えた。

 

産業革命によって農村から

工場に人々が移動し、鉄道

や自動車の普及で都市は郊外

に拡大した。

 

高層ビルが立ち並ぶ近代都市は

鉄骨とエレベーターによって

誕生した。

 

故に、テクノロジーは都市の

興亡を左右すると言える。

 

現代は都市に住む人が急増して

おり、世界人口に占める都市人

口の割合は、2050年までに70

%近くに達する見通しだ。

 

そんな中、途上国で深刻な交通

渋滞や環境汚染が懸念される。

 

また、先進国では地球温暖化

への対応が急務で、省エネで

持続可能な都市への変容が

求められている。

 

こうした都市問題の解決手段と

して浮上したのがデジタル技術

である。

 

インターネットや人工知能(AI)

を駆使し、都市をより効率的で

便利な空間に変える動きが世界

中で広がっている。

 

データの宝庫

都市のデジタル化は、

「スマートシティ－」

と呼ばれる。

 

内容は地域によって異なるが、

日本総合研究所の主任研究員

のA氏は、

「デジタルの技術や道具を賢く

　使って、暮らしやすく、持続

　可能な社会を構築する取り組

　みだ」

と解説する。

 

代表的なスマートシティーは、

全てのものをインターネット

に繋ぎ、都市にセンサーを

張り巡らせる。

 

人の活動や交通、環境、イン

フラ設備などのデータをリア

ルタイムで大量に収集し、AI

で分析して都市全体の機能を

最適な状態に制御する構想だ。

 

例えば、信号の制御で交通渋滞

の緩和や物流の効率化につなげ

たり、電力のデータを省エネや

安定供給に役立てたりする。

 

センサーで大気汚染や災害の発生

を監視するほか、ゴミの量を自動

的に感知して効率的に収集できる

ゴミ箱や、銃撃音を検知すると

警察が急行する防犯システムも

ある。

 

A氏は、

「都市はデータの宝庫である。

　企業や自治体のデータも資

　源として活用すれば、医療

　や産業などさまざまな分野

　で改善策が見えてくる。

　人の生き方も変えるだろう」

と指摘する。

 

欧州や米国では既存の都市を

基盤とするスマートシティー

が多いが、中東や中国では

新たに建設する都市に導入

するケースが目立つ。

 

いずれも経済のグローバル化

が進む中、魅力を高めて都市

間の国際競争を勝ち抜く狙い

がある。

 

現在のところ、日本は出遅れて

いる、と揶揄されている。

 

サイバー攻撃の懸念と現実

スマートシティーは交通事故

や災害を抑制する反面、大き

なリスクを新たに抱えこんで

いる。

 

データ流出や故障によるシス

テム障害の他、最も懸念され

るのはサイバー攻撃による

インフラの連鎖的な被害だ。

 

従来の都市は電力や交通など

インフラを別々のシステムで

管理するが、スマートシティー

では、これらを繋いで全体の

効率化を目指す。

 

このため、どこかに攻撃を受

けると全てのシステムに障害が

波及し、全体の機能がマヒして

しまう恐れが高まる。

 

この脆弱性がサイバー戦争で

狙われる可能性がある。

 

北大西洋条約機構(NATO)などの

サイバー防衛協力センターは

2020年の報告書で、

「スマートシティーへのサイ

　バー攻撃が安全保障上の

　重大な脅威になる」

と指摘し、30年に起こりうる

シナリオを示した。

 

それによると、

「同盟国の首都の大都市が

　サイバー攻撃を受け、

　通信システムがマヒし、

　ネットワークがウイルス

　に感染する。

　ほぼ同時に、行政のコン

　ピューターは機能しなく

　なり、衛星利用測位シス

　テム(GPS)は切断されて

　しまう。

　都市人口の半数で電気と

　水道が止まる中、運河と

　ダムの制御システムが

　ウィルスに操作され、

　大規模な洪水が発生する

　深刻な事態に発展する。」

 

報告書は、

「今後10年間で、欧米の自治

　体の大半がスマートシティー

　を導入するだろう。

　地域を超えてシステムが繋が

　ると、複数の都市が同時に

　被害を受ける可能性が高い」

と警告した。

 

スマートシティーの課題は

他にもある。

 

それは、収集したデータの

権利やプライバシーの問題

である。

 

以前に、企業側が収益確保の

ためデータの利用を拡大しよ

うとして住民側の反発を買い、

計画が中止に追い込まれた

ケースがある。

 

一方で、AIによる省エネは、

スマートシティーの売り物

だが、AIはコンピューター

の消費電力が膨大なため、

それを含めると本当に省

エネになるのかは不透明

である。

 

未来の実験場

スマートティーは「都市OS」

と呼ばれるデータの連携基盤

が重要な役割を果たす。

 

PCでいえば、基本ソフト(OS)

のWindowsに相当するもので、

これを普及させた者が世界の

デジタル都市づくりの覇権を

握る、と言われている。

 

そんな中、つばぜり合いをして

いるのは欧州と中国である。

 

野村総合研究所のエキスパート

Ｂ氏は、

「欧州連合(EU)と中国はスマー

　トシティーの基盤技術を標

　準化して輸出したいという

　野望を持っている」

と話す。

 

背景には米国の巨大IT企業に

対抗し、その支配から逃れる

狙いもある。

 

ただ、スマートシティーの

構築には巨額の費用が必要で、

B氏は、

「問題はその投資を回収できる

　かどうかである。

　かなり難しいだろう。」

と強調する。

 

都市づくりは、これまで

建築家や建設会社が手掛

けて来たが、

「スマートシティー」

時代の到来で、IT企業の

影響力が強まる地殻変動

が起き始めている。

 

IT企業は、都市空間をデジ

タル空間に再現することで

支配領域に取り込み、将来

は、都市開発の主導権を握る

可能性が大きい。

 

都市には、

「人口集中による変革」

の利点、

「密集に伴う環境汚染」、

「感染症」

などの弊害、

が古代から常に併存して

いる。

 

新型コロナウイルスの

大流行で、都市の弱点が

露呈し、テレワークの

実施で人口集中が緩和

されたが、

「スマートシティー」

の導入が加速すれば

人口密度が逆に高まる

に違いない。

 

都市は革新技術が投入

される場であり、今後

も、イノベーションの

舞台となることは間違い

ない。

 

人類は直面する課題を

デジタル技術で克服

できるのか？

 

スマートシティーが、

その壮大な実験場に

なることは明確である。

 

 

＜未来の都市＞

 

深井ITゼミナール