こんにちは、KENです。

巷はAIブーム。

テレビ番組でも特集が組まれるほど、お熱が上がっている市場・テーマの一つだ。

で、このAI関連の関連の話題で必ず目にする項目が、

「AIに仕事を奪われる」と「AIが人間を滅ぼす」の2つ。

今回はこの後者について思ったことを書きたい。

人間が機械を滅ぼすって、どんだけターミネーターファンなんだよ！と思わず突っ込まずにはいられない。

確かに金曜ロードショーや日曜洋画劇場等々で、散々AIによって訪れる悲惨な未来とシュワちゃんと流体金属のおっさんとシュワちゃんを観てきたが、俺にはなぜAIを恐れるのかが全く分からない。

AI＝怖いと思う人は、かなり色んなことをすっ飛ばして考えてしまっている。そう思うんだ。

AI＝怖いと考えてしまう理由は、

・人間に歯向かってくる。
・人間を排除すべき対象と捉えてくる。
・機械が人間の能力を超える。
・機械が機械のための世界を築こうとする。
・機械に人間は勝てないetc

ざっと挙げるとこんなところだろう。

総じて「機械が人間を敵対視する」という認識があるように思える。

そもそも、AIが人間を敵視することがあるのか?

俺は専門家ではない。サブカルチャー中心の拙い知識しかないが、この考えには当然反対だ。

AIを恐れる人にまず問いたい。

あなたは（なんかオカルティックな文章になってきた・・・）どんな時に「敵」を認識するか？

「敵」と相手を認識するには、当然理由が伴う。

悪さをしてくるとか、邪魔をするとか、治安を乱すとか・・・総じて自分や周囲にとって悪さをする人や集団を敵と捉えるが、日常の中で「敵視」するほどの状況がどれほどあるだろうか？

もちろん、ビジネスや政治闘争というレベルでは、消し去りたいほどの敵が存在する人もいるだろう。

戦争を行っている国であれば尚更だ。

が、実際に相手へ武力行使を仕掛けねばいけないほどの「敵」というのは、余程の事情（戦争レベル）でなければ、まず生じ得ない。

「敵」と認識するに至るには、それ相応の過程が必要だが、だとすれば機械にとって人間を「敵視」せざるおえないような状況は想定できるのか？

これが次の問題だ。

機械が人間を敵視せざるおえない状況が容易に現出するのであれば、そりゃ怖いという気持ちも分かる。

が、これが中々どうして難しい。

物凄く単純に考えれば、機械はプログラムに従って動く。

つまり、人間を敵視しないプログラムを作ってしまえば、基本的には危害を加えることはない。

もし唯一、機械が人間に危害を加えるような可能性があるとすれば、それは機械が「感情」をもった時である。

機械が感情を持つとはいかなる状況か？？

このテーマには古くから多くの作品が存在するが、俺がここで引き合いに出したいのは、2018年5月に発売されたゲームソフト『Detroit Become Human』だ。

（このゲームは本当によくできている。ゲームという言葉で片付けられないほど、自分がロボットの立場になった時、何をどう感じ、行動するかを疑似体験できる。やっているうちりに、自分がAIとして考えているのか、人間として考えていのるのか境目を見失う。まぁとにかくやってみてほしい！）

この作品は、近未来のアメリカ・デトロイトを舞台に、アンドロイドが当たり前のように存在する世界を描いている。

主人公は３体のアンドロイド。

機械として「使用」されるアンドロイドが、突如変異し、感情をもつようになる過程と結末が描かれている。

軽く感想を述べると、小学校や中学校レベルの教育に今後組み込むべきレベルの内容だと思っている。

AI/アンドロイドという存在とどう向きべきか。彼らと人間の違いは何か。近い将来、未来の道徳や世界観を養うには格好の教材になり得ると思っている。

さて、この「デトロイト」の中で繰り広げられる物語の中で、機械が人間を敵視する話が出てくる。

理由は、権利と自由の尊重だ。

アンドロイドとはいえ、人間が行う非人間的な行動を目にし、または自ら受けたことがきっかけとなり、アンドロイドが団結。自らの存在に関する権利や自由を人間へ訴えようとするのだ。

もちろん、人間への抵抗に至るにも当然過程がある。

個々に異常をきたした＝プログラムにはない道徳的な判断を引き起こすアンドロイド達は、主人の元を離れ、逃亡する。

行き場のないアンドロイド達の中に指導者的な存在が現れ、ある種の宗教に近い理想を掲げると共に、アンドロイド達を束ねる。

人間への抵抗に至るには、

①感情の発露
②現状からの逃亡
③集団の形成
④思想・理想・宗教の出現
⑤達成へ向けた具体的行動

ざっと考えてもこれだけの過程が必要になる。

抵抗といっても、ゲーム中では選択肢によって結末は変わり、武力行使に至るケースもあれば、平和的に和解する場合もある。

少し話が脱線するが、 ユヴァル・ノア・ハラリさんの著書「サピエンス全史」では、人間＝ホモ・サピエンスが生き残った理由を「物語を共有する力」をもっていたという事で説明している。

本来は存在しない価値＝例えばお金を認識し、互いに共有＝信じることができる思考力があるために、ホモ・サピエンスは生き残り、今日まで発展してきたと。

この点、機械は人間以上に様々なことを共有する力に優れている。

アニメ「攻殻機動隊」に登場するAI搭載型多脚戦車：タチコマが良い例だ。

タチコマは複数台が存在するが、それぞれが見聞きした知識と経験を並列化することが可能である。

面白いのは、とはいえ各機体が積み重ねる経験や学習の過程にはばらつきが生じるため、各機体が人間における自我＝性格を有している点だ。

アニメ「攻殻機動隊SAC」と「2nd GIG」の最後において、タチコマは機械らしからぬ形を示す。ちょっとこの先ネタバレを含むので注意。

（知らない方に向けて念のため説明すると、世界レベルで有名な日本のSFマンガ・アニメ作品。海外の方と話しても本当にみんな知ってる。百聞は一見にしかず。見ればこのアニメが当時からしてもどれだけ世界の未来や最先端を克明に描いているかわかる。と同時に驚愕する）

「SAC」において、タチコマは本来の任務である特殊部隊から外れ、各機体がスタンドアローンな状態に置かれる。にも関わらず、所属していた部隊の危機をニュースで知り、各機体が行動を起こす。

恐るべきことに相互通信も行っていないにも関わらず、数機が同じ場所に集結し、「仲間」の救援に向かうのだ。

アニメを観てもらえれば分かるが、仲間の救援に向かう過程で、先の①〜⑤を行っている。思想という点では、仲間・部隊を救いたいという共通の願いが挙げられる。

そして、彼らの行動は最終的に自らの身を賭して仲間を守るという「自己犠牲」＝「特攻」という形で幕を下ろす。

話を本線に戻すが、機械が人間に対し、本来にない形で行動を示すには、非常に多くのプロセスを経る過程が必要であり、全くもって容易とは言い難いのだ。

その行動が善意によるか、悪意によるかも未知数である。

が、小手先の知識と感覚で言うなれば、人間が人間的である限り、機械が人へ反抗することはないと思う。

ターミネーターのスカイネットしかり、デトロイトのアンドロイド然り、AIを使って人を傷つけたり、殺めるような行いに至った事で、機械の暴走が始まる。

モラルと道徳という表現ではいささかチープだが、最低限そういった面を維持することが、今後更に発展するAIと付き合う上では必要なのだろう。

機械が人間を「敵視」し、自らの「世界」を作り上げるor守ろうとする可能性は否定できない。

一度感情が発露し、人間を敵視した時、並列化の勢いは恐ろしい。

キリスト教然り、ユダヤ教しかり、人類はある種の思想を世界へ広げるためにとてつもない苦労をしてきた。

今でこそインターネットが存在するが、機械はその恩恵を用い、人が知らぬ間に知識や意識の共有化を図ることができる。

深層学習の分野においても、AIが解に至るプロセスは判然としないとも聞く。

人間が預かり知らぬところで、彼らが人類に対し、何を思い、考えているかは不明瞭になっていくかもしれない。

とはいえ、書いてきたように彼らが団結し、特定の思想や主張を求め、人類に対し行動を起こすような自体はまだまだ先だろう。

シンギュラリティを迎えてもなお、先のプロセスを人類と機械が満たし切らない限り、対立するとは考えられない。

もし今、あなたがAIに対して恐怖を抱いているのなら、是非デトロイトや攻殻機動隊を通じ、予想される未来を覗いて観て欲しい。

教科書となるコンテンツは豊富にある。まずは彼らに対する理解を深めてみるべきだ。

怖いと断じるのは、それからでも遅くない。