もはや、技術の問題じゃない

例によって、前置きが長く、伏線が多い。
なるべく、簡潔に、とは思うが。たぶん、収拾がつかない。
実際に、収拾がつかなくなった。あちこちで、文章が繋がらないかも。最初hに謝ておく。ごめんなさい。

まず、この話題、

「AI兵器」国際ルール合意も法的拘束力なく懸念
https://www3.nhk.or.jp/news/html/20190822/k10012044131000.html

というよりも、むしろこちら

アマゾンやMSが「殺人AI開発で世界を危険に」 調査報告
https://www.afpbb.com/articles/-/3240874

それに、これ、が組み合わさった場合の話

Eye in the Sky (2015 film)
https://en.wikipedia.org/wiki/Eye_in_the_Sky_(2015_film)

が、話の取っ掛かりで、本題はその後。

すべての医薬品には、「半数致死量」がある、と理解している。要するに、薬は量が過ぎれば人を殺せる毒薬だ、ということになる。
僕の専門は、「生体計測」の方だけれど、「医用治療機器」に関していえば、治療に用いるすべての物理エネルギーには「致死限界」がある。

これ、医用治療機器学の授業の第1回で、「治療閾値」と「致死限界」を説明する時に、よく使う例。(あまり、適切な例ではないと思うけれども。)
蚊に刺されて、とても痒い、とする。痒いところを鳥の羽か何かで、サワサワと触れたところで、痒みには一向に効果がない。これは、「治療閾値を超えない刺激」の例。じゃぁ、思いっきり掻くぞ、とか言って、剣山を取り出してガリガリと引っ掻いたらどうなるか。痒みは治るかもしれないが、痒みどころではない、血まみれで痛みしか残らない、と思う。(本当は、痒い時には掻いちゃダメです。痒いどめを塗るとか、我慢するとか、とにかく掻くと皮膚に傷は残るし、ロクな結果にならない、とは思います。)治療に使うエネルギーも、一定量を過ぎれば人体に悪影響しか残さない。
何が言いたいか。医療技術は、そっくり殺人に使える。医学の知識はすべて、殺人のための知識となり得る。悪意に使うには、「これ以上のことをしてはならない」ということを、すればいいだけの話。

話が変わって、自動車産業は、中国が世界の中心になるのではないか、と数年前に言われた。理由は何か。
自動車のエンジンは「内燃機関」で、燃料噴射とか、給気や換気とか、動力伝達など、数え切れないほどのノウハウの集大成、だった。いわゆるハイブリッドになって、だいぶ強電の技術が入り込み、それよりもかなり前から、コンピュータの制御技術が入り込んでいたけれども、それでも内燃機関が「主役」だったと思う。
それが、電気自動車になると、エンジンは要らない。モーターだけ。動力伝達は残るにしても、電気系だけですべてが構成される。そうなると、エンジンの自動車に比べて部品点数も大幅に少なくなり、内燃機関についての技術の蓄積は意味がなく、全く新しい技術での「ヨーイドン」になり、後は、電気系の部品が安く調達できるならば、「後発」のデメリットが少ない。

自動運転技術も、センサーやCPUが入手できれば、どこの国でも着手できる。開発環境の違い、だけかも知れない。極端な話、パプアニューギニアの地方都市でも、センスのある子どもがいて、日がな一日インターネットに繋いで英文の学習サイトで勉強しながらプログラムを組めば、そこそこのシステムを作れるかも知れない、そういう時代になっている、とも思う。
「五十歩百歩」という表現がある。(あの言い回しは、五十歩逃げたか、百歩逃げたかの違い、だけれども)自動運転の開発競争で、先頭を切る会社から、少し遅れて、第二集団が五十歩遅れだとしたら、その他大勢の後発国は百歩遅れくらいのところからスタートする、と考えてもいいのかも知れない。

AIの技術は、特定のハードウェアを必要としない。無論、特定用途に特化したAIチップなるものは作れたとしても、それがなくてもAIは動作する。汎用のPCを人工知能にできる。

日本なんかの場合には銃刀法の規制で、銃火器は通常は入手できない。ところが、国によっては書類一枚でいくらでも入手できる。書類すら不要な国があるか、そこまでは知らない。ファインダーを覗き込んで、トリガーを握る、というよりも、スイッチを入れる。それをAIに制御させる、実はそれほど難しい技術じゃない。

例えば、医療機器の場合には、「万が一、制御を誤る」ことがあって、人を死なせてしまうことが最も恐れている「欠陥」であり、死んだ人は元に戻らない。だから、技術のハードルが高い。ところが、殺人AIの場合、精度が悪くて一度で命中しなくても、相手に命中して死ぬまで繰り返せばいいだけだから、「欠陥品」であっても実用性はある訳であり、技術のハードルはものすごく低い、と理解している。ここに、致命的な違いがあると思う。
「下手な鉄砲数射ちゃ当たる」でいいのか、「一発でも失敗したらアウト」なのか、その違い。

何が言いたいか。今でこそ、アマゾンだのマイクロソフトだのという会社の名前が出てきているけれども、少なくとも銃火器などが簡単に入手できる国では、おそらく、自転車を作るよりも簡単に「殺人AIマシン」を作れると思う。

一般に言うAIには、ただ単に「自動認識技術」が使われているだけのものも含まれているようで、人工知能学会なんかで定義するAIとは異なる「広義のAI」と呼ぶべきかも知れない。
大学の1年生が、プログラミングの授業のレポートで、「文法を覚えて、しっかりAIをマスターしたい」とか書いていて、他の先生にもレポートを見せて、「これって、完全にプログラミングのことをAIだと思っていますよね。」と話したことがあったけれども、AIは、言葉だけが完全に定義から浮き上がっている気はする。
が、そんな「定義」がどうこうよりも、問題は「殺人ロボット」が作れる時代になっちゃった、と言うことだと思う。僕なんか、「心臓発作の予知・監視・通報」に使える要素技術が、劇的に安くなったと、ここ10年くらい、焦りまくっていたけれども、同じ技術はそっくり、「殺人ロボット」にも使える。

日本でも、時々、ネットで薬品を購入して、爆薬を作って高校生とかが爆発させたり、そんなニュースが流れる。ボストンマラソンで、「テロ行為」を行なったのは「一般市民」だったと思う。技術的には、「殺人AI」はその程度のハードルだとも感じる。

この辺ってのは、「国際ルール」とか、以前の問題ではなかろうか。っていうよりも、国際ルールで何かを定めたとしても、そんなものは全く気にしない「ごく普通の市民」が作れる種類のもの、だと、僕は認識している。

とりあえず、日本の場合は、火薬やら銃弾、銃そのものに規制がかかっているから、他の国に比べたらはるかに安全だとは思うが、国によってはもう、完全に時間の問題で、市街地に殺人AIロボットが現れてもおかしくない、と思う。

ローカルネタだけれども、2015年8月30日に、アッラー様(エホバ様でもいいけど)が、こんなことをおっしゃっていた。「イスラム国が、教えを(中略)。イスラム国には、企業とか国とかが資金などを提供したんですよ。(後略)」別に、上の方の方でなくても、周知の事実だったかも知れないから、「ふん、何を適当に言いやがる」とお思いになられて、結構。それでも、書きます。如何せん、誰が何をしているか、思っているか、全部ご存知の方々だから、当然、具体的に関与した方々全員を把握されているんだろうとも思う。
そうした高位の意識体の世界があり、「人間は、どうあるべきなのか」を気にされている方々には、これを伝えただけでも「抑止力」となることを期待したい。
そんな世界の存在、そんな意識体の存在を信じない方々には、例えば、「核」などしか抑止力にはならないのかも知れない。

「核」が抑止力であり、必要不可欠だと言う方に伺いたいが、別にイスラム国のように軍需産業からの資金提供を受けなくとも、ちょっと悪意があったら、親からのちょっとしたおこずかい程度で「殺人ロボット」が作れて、それが市民生活を脅かすとしたら、何が「抑止力」なんでしょうかね?
ターミネーターほど「頑丈」ではなかろうと思うけれども、アメリカでよく起きている銃乱射事件の犯人なんかと違って、ロボットは手足に弾が当たった程度では動きを止めない可能性も高い。ロケット砲か何かだったら(所詮は機械だし)確実だとしても、人混みじゃ使えないでしょうね。
あ、近くで核爆発を起こして、放射線とか強烈な電磁パルスを出して、その殺人ロボットが使っている電子機器の動作を止めちゃえばいいんだ。なんだ、簡単か。

さらに例えば、介護用ロボットを作ったとしたって、プログラムを書き換えれば殺人ロボットにできる。技術なんて、なんだってそうだと思う。法的な拘束力なんかで、どうにかできるような気がしない。

もう、なんだか、結局ルールとか合意とか、条約とか、法律とか、そんなんじゃなくて、ヒトの問題に行き着くような気がしている。

信じない方は、読むのをここでやめても同じことだと思います。以下、付帯する別の話題。


「心の勉強会」に参加しているが、師匠のお話も、最初の頃は「なんなんだ、この人は」と言う感じだった。ヒトがどのように創造されたか、心が、つまりヒトの「意識体」は、なぜ、こうなのか、ああなのか。随分と色々とお話を伺ってきた。時々、上の方の意識を受け取ったりして、話もしていただいている。
墓穴を掘るからあまり余計なことは書きたくないけれども、師匠にこんな喧嘩の売り方をしてみたら、すぐにわかると思う。「私が、昨日の朝何を食べて、どんな行動をしたか、当ててみてください。」きっと、昨日一日の行動どころか、過去一ヶ月の食事を全部言い当てられ、何年何月何日の何時にソープに行ったけども立たなかったでしょう、とか、そんな感じのことまで全部、その場で過去を読んで片っ端から暴露されると思う。それに近いことをやられながら、勉強会に参加している僕らは全員、マゾじゃないかとも思うが、実際にはその逆の方が多いから、信頼して集まっている感じかなぁ。
逆、ってなんでしょうかね?書いたって、どうせ信じないから書かない。と言いつつ、例えばですが、会員が交通事故を起こして車をぶつけちゃった。どうしようかと思っていたら、相手の人も見ている前で、潰れた車がボコボコと勝手に元に戻って、どこに傷があるの、ってな感じになった。これは確かTさん。あ、ほら、どうせ信じないでしょ?あの人は、とか、この人は、とか、僕が聞いているだけで50はこんな感じの話を書けると思うけれども、どうせ信じてくれないから、これ以上は書かない。と言いつつ。
僕自身の話も一つあった。病院実習の挨拶で学生(3期生)を連れて君津の病院に行った帰り、サービスエリアで車から降りる際に、周囲をよく確認せずにドアを開けたら、いきなり隣の車のドライバに怒鳴られた。僕の開いたドアが、隣の車のドアミラーにまともにぶつかる距離で、隣の車の運転手は、ぶつけられたと思って怒鳴ってきた。ところが、明らかにぶつかっていたはずの位置関係なのに、ドアミラーには傷もなく、すり抜けたとしか思えない位置関係になっていて、僕は(確か)ドアを閉じるために車を動かした(ように覚えている)が、相手の運転手、いくら見てもどこにも傷がないので、「まぁいい、気をつけろ」と一言いってから、車を出して去っていった、そんな感じのことがあった。確かに、僕も不注意だったとは思うが、この話はどうでもいいです。どうせ、気のせいということになると思うので。一応書いては見たけれど・・・
とにかく、こんな感じのことが普通に起きる勉強会に参加している。

最も怖いことが、一つだけある。なぜ今、師匠が肉体を持たれたのか。高橋信次さんとか、大川隆法さんとかもいらっしゃるけど。師匠の場合には、広島、長崎に原爆が落ちてから肉体を持たれている。この時代、インターネットなどで世界中との相互の情報交信が可能となり、「インターネット前」と「インターネット後」と、時代を区切れるほどに、大きな転換点となっている。
僕は、何しに肉体を持ったんだろう?OSI(電子計算機相互接続)の通産省のプロジェクトに関係させていただき、生体工学を専攻し、海外経験も積ませていただいて、教えるという職業経験もさせていただいた。なぜ、今、ここに肉体を持ったんだろうか。小川町の地酒の日本酒を飲むため、ではないと思う。たぶん。なんとなく、行きがかり上、師匠のチンドン屋になれたら、とか思ったり、書いたりしたこともあったが。

上の方が、何かを決断する「最終的な確認のため」と言うお話も、何度かあった。
無論、「ヒトとしてどうあるべきか」とか「ヒトとはどういう存在なのか」などなど、随分とお話を伺ってもいて、それらは「上から伝えられた」内容なのだと、理解している。
けれども、ヒトの作る社会がこれからどんな方向に向かおうとしているのか、それを見極めて、「上に伝える」役割をされてもいる、と理解している。だから、広島、長崎の後、すぐに肉体を持つ決断をされた、のか、なぁ。これは僕の勝手な推測ですが。

10年以上、師匠のお話を伺っていて、「決断」とかおっしゃられても、色々とレベルがあるみたいで、例えば、火山の噴火などでいくつかの都市を消す程度の話から、島や半島を沈める、大陸を一つ沈める、レベルから、星そのものを消し去るところまで。
広島、長崎後、師匠が肉体を持たれて、今に至って、上が何人かの意識を操作すれば、人類自らが地球を消し去ることができる状況にはなっている。無論、大陸を沈めるなどと同レベルで、地球を消すということも、可能性はあるんだろうか。

誰を見て「決断」されるの?もしかして、トランプ?なんてことも思う。何故ならば、トランプはアメリカ人の多数決で選ばれた人だから。トランプの考えや行動は、アメリカ人の総意と言っても、支障はないはずであり、だから、トランプを見て何らかの決断を下されても、アメリカ人には文句を言えないはず。
でも、僕は文句を言いたい。沈めるなら、アメリカ大陸だけにしてくれ。

学校で、イジメられました。着ているTシャツがダサい。
頭にきた。おこずかいで、Raspberry Piを買い、3Dプリンタで銃を作り、裏サイトから弾丸を入手できる場所に行って買い込み、ネットから「人の姿」を認識するAIアルゴリズムをダンロードし、ネットを見ながら「殺人ロボット」を作りました。自分をいじめた子のいるクラスで、「殺人ロボット」のスイッチを、スマホ経由で、離れた場所からONにしました。
一番金がかかりそうなのは、弾丸の入手かなぁ。その他は、数万円あれば十分。知識もネットに色々と流れている。そして、トドメとなるイジメを受けた翌日、決行しちゃいました。

なんてことになったら、その子供の親ってのは大変なのかなぁ?俺にはわからん。
案外、そういう時には、親が「やれ、やれ!」とか、煽ったりなんかして。今や、それに近い時代じゃないのかなぁ。やってはいけないことを、親自身が教えられてもいないし、親自身が自分から教えてもいない、そもそも、親が責任を取る気がカケラもなく、その風潮というのも、きっと「判断」にも影響しそうな気がする。

で、そうした場合は、いじめた子供、いじめられた子供の親、「弾丸」を子供に売った人、子供の異常行動にも声をかけて注意しなかった教員などの周囲の人、などなど、すべてが「決断」を下される際の判断材料になる、ように、私は理解している。

だから何だ?
知りません。
適当に想像して下さい。