人工知能に感情移入するとハンパなく恐ろしい事態が起こる！ 哲学界の重鎮が「AIの未来」を本気で警告（今野杏南・対談）
2017.04.04
人工知能（AI）の劇的発達が叫ばれて久しい現在、私たちの社会は、かつてない変容の時代を迎えつつある。人間を上回る能力を与えられた人工生命体が目の前に現れた時、私たちは“それ”とどのように対峙すべきか――？ そんな近未来の人類が直面し得るリアルな脅威を描いたSF映画こそ『モーガン プロトタイプ L-9』である。なんと製作は、あの不朽の名作『ブレードランナー』で今から30年以上前にAIの存在意義を世に問いかけたリドリー･スコット。そしてメガホンをとったのは彼の息子、ルーク・スコットという驚きの超大作だ。
今回トカナは、4月5日（水）に20世紀フォックス・ホーム・エンターテイメント・ジャパンより本作のDVD＆ブルーレイがリリースされる機会に合わせ、改めてAIを取り巻く現状を整理し、問題の核心に迫るとともに未来への提言を導き出すべく、画期的インタビューを構想。長きにわたりAIの問題に第一線で取り組んできた哲学者・黒崎政男先生（東京女子大学教授）を招聘し、徹底論評を依頼した。
そして、「AIについてなら聞きたいことがある！」と目を輝かせながら聞き手を名乗り出てくれたのが、無類の映画好きとしても知られるグラビアアイドル・今野杏南ちゃん。日本を代表する哲学者と今をときめくFカップグラドル、異色タッグの化学反応があぶり出した『モーガン プロトタイプ L-9』のヤバさとAIの未来とは――!?
『モーガン プロトタイプ L-9』ストーリー
極秘研究施設で、シンセスト社が開発している究極の人工生命体、その試作品であるL-9ことモーガン。ある日、モーガンが研究者を襲って大怪我をさせる事故が発生し、調査のために本社から危機管理コンサルタント、リー・ウェザーズが送られてくるのだが、やがて事態は恐ろしい展開へ……！
■『ブレードランナー』から35年、最新のSFは何が違う？
今野杏南（以下、今野） 最近は、いろんなメディアでAIの話題が溢れていますよね。黒崎先生は、この『モーガン プロトタイプ L-9』（以下、『モーガン』）は楽しめましたか？
黒崎政男教授（以下、黒崎） ええ。こういう近未来SF映画は冒頭で説明される設定だけが凝っていて、あとは単なるアクション映画になってしまう作品も多いのだけど、『モーガン』は違ったね。アクションの“動”と、哲学的な思索の“静”が同居している。誰もが楽しめて、かつ内容も濃いSF作品だと思うよ。
今野 私もすごく面白かったんです。『モーガン』は、もうすぐこういう世界がリアルになるのかなっていう感じがすごくて……少し恐くもありましたけど。やっぱり製作陣がすごいですよね。
黒崎 実は、私が人工知能の哲学に目覚めたきっかけは、1982年に公開されたSF映画の金字塔『ブレードランナー』でしたから、あれから35年が経ってリドリー・スコットの息子が監督したSF作品ということで、実に感慨深いものがありますね。
今野 わっ、35年前！ 昔のSF大作と今回の『モーガン』にはどんな違いを感じますか？
黒崎 『ブレードランナー』で表現されていた未来は、暗く陰鬱で退廃的。未来は必ずしも明るくバラ色ではないということを、まざまざと見せつけるものでした。当時は、そのイメージに衝撃を受けたものでね。一方の『モーガン』には、『ブレードランナー』のオマージュも見られるし、全体的に暗いトーンであることは間違いないのだけど、それだけではない。美しい森と湖、それと最先端テクノロジー（人工生命体）とが対比される形で描写されている。『ブレードランナー』の舞台である2019年が目前に迫って、SFも現実に合わせて世界観を進化させている。その違いが新鮮だったね。
■生命とは何か？ 浮かび上がるテーマと問題
今野 つまり『モーガン』は現代の最先端SF作品なんですね。映画のテーマはどうですか？ 私たちに伝えたかったことはAIの恐ろしさとか、危険さなのでしょうか？
黒崎 本作の根底にあるテーマは、生きることや生命とは何かという問いかけに尽きるのだろうと思います。生命の根源を象徴的に見せるために、水の表現を上手く用いていたの、気づいたかな？
今野 水といえば、モーガンと研究員との会話で……！
黒崎 モーガンが「水は何歳だ」と尋ねる印象的な台詞があるけど、そう聞かれた人間は「すごく古い。宇宙と同じくらいだろう」と答えたよね。もちろん水は生命の発生を象徴しているから、とにかく生命の歴史とはそれだけ長いものだ、と。そんな生命が、最先端技術によってアンドロイドを生み出したことを意識させて、生命とは何かという問題を浮かび上がらせているんだね。それから、シェイクスピアの戯曲「ハムレット」に登場するオフィーリア（度重なる悲しみの後に溺死を遂げる女）を象徴するシーンもあったけど、やはり水が関連しているね。
今野 あっそれ、ネタバレになっちゃうから詳しくは載せられないかも。でも、あのラストは予想できましたか？ 私はあんなオチが待っているなんて、最後まで全然気づきませんでした。
黒崎 確かにね。後になって考えてみると色んな伏線はあったけれど、そもそもモーガン自体、アンドロイドとはいえ人工のDNAによって作られた有機生命体という設定だし、かなり人間に近い存在として描かれていたからね……。
■AIと人間の未来、本当はどうなる？
今野 そこでやっぱり、AIの問題についてしっかりと考える必要がありますよね。技術がどんどん進んで、モーガンのような人工生命体という形に行き着いたら、見た目は人間っぽいのに、誰もかなわない能力を持っているだろうし、やっぱり不気味だな……。
黒崎 そうなる可能性はあって、恐いと思う反応も正しいと思う。モーガンも何となく不気味な描かれ方だったよね。ただ、現実にモーガンのような人間の姿そのものの人工生命体が僕たちと一緒に暮らす世界になるかというと、ちょっと違う形の未来の方が可能性は高いかもしれない。
今野 どういうことですか？ どんな未来が？
黒崎 蓄積されたビッグデータの活用と、高度にネットワーク化されたシステムに人間が組み込まれてしまう可能性の方が十分にあり得るんじゃないかな。現在のAIは、統計データに基づいて情報を処理する能力を進化させている最中にあるわけだから。
少し前、マイクロソフトのTayという人工知能が差別的な言葉をたくさん学んでしまって、暴言ばかり吐くようになったというニュースがあったけど、あれはAIが人間に敵意を持ったのではなく、何も考えずに、すべて統計的に処理されて出力されていたから起きたこと。
同じくAIの脅威として、人間の仕事が奪われるという論調もあるけど、テクノロジーが発展する時は必ずそういうことがあるものだし、それで進歩は止まらない。だから問題は、最終的にそのシステムをコントロールするのが人間なのか、それともすべての人間がシステムにコントロールされてしまうのかという点だと思う。
今野 それでも、ペッパーくん（ソフトバンクの人型ロボット）のようなものが、どんどん社会に浸透してきていますよね。
黒崎 結局あれも、現在のところは情報を統計的に処理しているモノにすぎない。やっぱり人間型というのは親近感を抱きやすいから、あの形になるんだろうね。ただAIを考える上で、もう一つ見逃せない問題があって――。
■心とは何か？ 人工知能の哲学
今野 それはもしかして、心や感情という問題ですか？
黒崎 そう！ 実のところ人間は、相手が単に統計的に判断して受け答えしているものだとしても、コミュニケーションが成立する存在に対して、あたかも心があると感じてしまうんだよね。AI自身が考えたりしていないのに、いい反応を返してくると、心があるように思えてしまう。本当のところは、私たちが意味を投げ入れているにすぎないのだけれど。
今野 ちょっと待って下さい。その話を突き詰めていくと、実はこうやって人と話しているけど、相手が本当に人間かどうかは断言できないということになりますよね。もしかしたら人工生命体なのかもしれない！
黒崎 心は見えるものではいからね。でも、いま私が話している今野さんは、もちろん人工生命体などではないでしょう。となると、やはりAIと人間の決定的な違いとして、モノを超えた魂や自己意識のようなものがあるのか、という点が重要になってくる。そして、だけど、他者の魂や自己意識の存在は、外部からは決して直接には認識しえないというところが、キモだよね。
今野 そうか！ 心があるかどうかは客観的には調べられないから、結局は他の人がそれを認めるかどうかで判断されるわけですね。
黒崎 そうなってしまうんだよね。映画でも、モーガンについて研究者が「itではない。sheだ」と言い張るシーンがあったよね。作った人間にとっては愛着があり、コミュニケーションも取れるからsheなんだけど、特に思い入れがない部外者にとっては単なるitでしかない。
■人工知能に心があると認めたら何が起こるか？
今野 ただ、本作のモーガンは、人工DNAによって作り出された有機生命体という設定で、研究員たちもモーガンに心を持たせることを目的にしていたから、人工生命体といっても魂や自己意識があるという設定でしたね。
黒崎 そうだよね。モーガンが「天国はどんなところ？」と研究員に訊ねるシーンがあったけど、天国とは肉体が滅んだときに魂が行く場所。だから、モーガンに天国のことを語らせることで、その中に魂が宿っていることを示唆しているようだったね。
今野 それに映画を見ていると、人工生命体であるモーガンの境遇に感情移入してしまうというか……。
黒崎 こちらの感情移入を許すんだよね。モーガンのことをitだと割り切って鑑賞することもできるはずなのに。
今野 私たちがモーガンに共感してしまうように、もしもAIにも魂や自己意識、心があると時代が認めるようになったら何が起こりますか？
黒崎 あり得る話だけど、現実にそうなったとしたら、AIの価値が上がるのではなくて人間の価値が下がることにつながるよね。心を持つ存在を人間が作れるとなれば、私たち人間の心も作られたモノと同じ。AIを壊すことと人間を壊すことも同じになって、人間の存在が“なんてことはない”と判断されるようになる。
■AIを考えることは人間を考えること
今野 では、モーガンのように心を持っている人工生命体と、心を持たずに人間の指示だけを完璧に実行してくれる人工生命体がいるとして、一方と一緒に暮らさなければいけないとしたら、先生はどちらを選びますか？
黒崎 モーガンと暮らしたら襲われてしまいそうで恐いなあ（笑）。
今野 私も感情を持たずに何でも言うことを聞いてくれる人工生命体のほうがいい（笑）。
黒崎 でもさ、そんなAIがどんどん発展すると、人はますます魂と魂のぶつかり合いというかな、人間と人間の接触を避けて生きるようになっていくだろうね。すでに今でもその傾向は見られる。ハラスメントとなることを恐れて、人間は一個一個の存在となり、それがビッグデータとネットワークで支配される。人間関係が根本的な部分で変容するでしょうね。
今野 う～ん。AIが心を持ったら厄介だけど、心を持たないAIの発展も人間を変えていくんですね。今まさに、そんな変化の最中にあるんですよね？
黒崎 そう。コンピュータができてから60～70年、AIの処理能力の方が人間を上回る、ちょうどそのタイミングにある。今はとんでもない変化の時代だと思うよ。もともと私は牧歌的な人間だから、本当はこんな時代に生まれない方が良かったなんて思うこともあります（笑）。「行動には結果が伴うことをモーガンに教えなければいけない」なんていう台詞があったけど、まさにその「フレーム問題」をはじめ、人工知能には解決しなければならない問題がたくさんある。でも、進歩は止められない。
今野 なんだか恐いような、楽しみなような……。まさに始まったばかりの大きな変化について、『モーガン』が教えてくれることはたくさんありますね。
今回、黒崎政男先生と今野杏南ちゃんの対談から浮かび上がった人工知能を取り巻く問題の核心、それは実に明確だ。結局のところ、人工知能をどう考えるかは、人間が自分自身をどう考えるかということの裏返しなのだ。『モーガン』をありふれたSF作品として決して侮ることなかれ。映画の世界はもう、目前に迫っている。
（取材・文・構成＝編集部）
黒崎政男 プロフィール
1979年東京大学哲学科卒業、同大大学院人文科学博士課程を経て東京女子大学教授。著書に「哲学者はアンドロイドの夢を見たか」（哲学書房）「今を生きるための『哲学的思考』」（日本実業出版社）など。
今野杏南 最新情報
日本テレビ・読売テレビ系ドラマ『恋がヘタでも生きてます』
毎週木曜日23：59～ 小池奈々役でレギュラー出演中。
公式Twitter @konno_anna
参照元 ： TOCANA
【閲覧注意】人工知能の本当のリスク
【必見】人工知能を題材にしているオススメ映画を4つ紹介
人工知能技術は私達の生活大きく変えると言われています。より豊かでより幸福な暮らしが実現する可能性がある一方、人類が滅亡してしまうような悲劇のシナリオも可能性としてあります。人工知能によって引き起こされる悲劇とは一体どのようなものが考えられるか、想像してみたいと思います。
企業が全てを独占するリスク
人工知能のリスクと言えば、ターミネーター的な恐怖を思い浮かべる人が多いと思いますが、それだけではありません。
高度な汎用型人工知能システムのプラットフォームを、もし一企業なり国なりが独占してしまったら、とてつもない利益を独占することになります。その企業が吸い上げた莫大な利益を全人類に還元してくれるなら、人類の未来はバラ色と言えるかも知れません。
生産（労働）に関しては全て機械がやってくれるようになって、誰も食べるために仕事をする必要はなくなり、人類の役目は遊ぶこと（消費）や、芸術活動などです。
ついに人類は労働から解放されるわけです。昔、貴族やお金持ちが奴隷を手に入れたように。ただし、その独占した企業や国が、果たしてそこまで奉仕的に全人類に対して平等に還元してくれるのか？そこははなはだ疑問です。
もしGoogleが汎用型人工知能プラットフォームを世界中に普及させたとすると、Googleはまさにこの地球の支配者となります。MicrosoftがWindowsを全世界に普及させたことよりも遥かに大きなインパクトとなるはずです。
全人類を労働から解放するほどの利益を、もし一社、一国に独占されてしまうと人類に未来はないでしょう。とてつもない恩恵なだけに、その恩恵は大きな争いの種となる可能性を孕んでいます。
多くを還元するにしろ、全人類に平等にその恩恵が行き渡るとは考えられません。人工知能技術による爆益を巡って、対立構造、支配構造が生まれることは必至です。人工知能技術によって得た利益をどう分配するか？これは非常に大きな問題です。
人類滅亡のリスク
ベタな話ですが、ターミネーターのように人工知能によって人類が滅ぼされるというリスクも十分あります。
機械に欲求を持たせる
映画ターミネーターで語られたのは、人工知能を備えた兵器スカイネットが自然発生的に自我を獲得し、さらに生物と同じような生存欲求をも獲得した結果、その暴走を止めようとした人類との生存を賭けた戦いに発展するというものでした。
自我というシステムがどうやって出現しているのかが分かっていない以上、それなりに高度な認識能力、判断能力を機械が身につけた時点で自然に発生するというシナリオも決して否定はできないのですが、正直、機械が自然発生的に自我を獲得するというのは、現実としてはそう起こりえることではないと思います。
それよりも現実的に脅威となるリスクが存在します。それは、悪意のある人間が、悪意ある欲求を機械に発生させることです。
自我なんてなくても、見せかけの欲求を機械に持たせることは比較的容易です。例えば、捉えようによっては、エアコンには室温をある一定の温度にしようという欲求があると言えます。自動運転で目標室温を設定すれば、その室温になるように動きます。
エアコン程度の自動システムは、普通、人工知能とは言いませんが、欲求とはつまりそういうことです。
エアコンが持つことができる欲求はせいぜい部屋の温度を何度にするか？というぐらいですが、高度な汎用性を持つ人工知能になら生存欲求を持たせることも、知的欲求を持たせることも、破壊欲求を持たせることも、増殖欲求を持たせることも原理上は可能です。
自我なんて関係ありません。自我があろうがなかろうが、外から欲求を与えることは機械である以上可能なわけです。機械に悪意も善意も良心もありません。それなりに賢い人工知能なら、ヒトが生きている状態と死んでいる状態を見分けることはもちろん、何をどうすれば生きているヒトが死ぬのか？それぐらいは簡単に理解できるでしょう。
そんな人工知能に、まるでエアコンの設定温度を25度にするかのように、「地球の総人口を10億人にする」という設定をすることだって可能です。殺戮欲求を持つ人工知能です。
殺戮欲求を持つ人工知能
人間より遥かに賢い人工知能に、一人でも多くの人間を殺戮するという欲求を持たせたら、果たしてどんなことが起きるでしょう？
それなりに賢い人工知能なら、一人ずつ殺していくような馬鹿な真似はしないでしょう。やろうと思えば、世界中のネットワークをハッキングして人間社会を混乱させて、戦争状態を作る事だって可能だと思います。
遠隔操作で動かせる兵器があれば、ハッキングして全弾発射させることもできるでしょう。
遠隔操縦が前提である無人爆撃機プレデターなんて簡単に乗っ取ってしまうかも知れません。旅客機でさえも武器となる可能性もあります。管制塔を乗っ取ればパイロットの精神状態にダメージを与える何かを発信することだってできるかも知れません。
もし世界のどこかに遠隔操作できる核弾頭があれば、無慈悲にも発射してしまうでしょう。しかも最も効率的に人類を破滅に追いやることができる地点に。それがワシントンなのか？ニューヨークなのか？ロンドンなのか？計算によって導き出すはずです。もちろん単純に人数が多い場所というわけではなく、より効率的に世界を混乱に陥れる地点を！
恐ろしいのは、上記のような恐怖のシナリオがたった一台（単位が適当かどうか分かりませんが）の汎用型人工知能によって成し遂げられる可能性があるということです。社会に不満を持つ誰かが、人工知能に世界を破滅させる欲求を与えた瞬間、人類は終わりです。
そんな簡単に出来るはずがない？いえ、もしかしたら簡単に出来るかも知れません。
オープンソースな人工知能
一企業が人工知能技術を独占してしまうリスクについて先ほどお話しましたが、その対策として、「誰かが独占するのではなく全てオープンソース化して、皆で全人類のために使おうじゃないか！」という理念もあります。
確かに誰かにその利益を独占させることなく、Linuxシステムのように誰もが使える人工知能プラットフォームが出来れば、その恩恵は分け合えるかも知れません。しかし、高度な汎用型人工知能をオープンにしてしまうということは、極端な話、その人工知能にどんな欲求でも持たせることが出来るようになる可能性があります。
ロボット三原則じゃないですが、もちろん、ユーザーレベルで何でも出来るような状態で世に出回ることはないと思いますが、オープンソースとなると、どこの誰が悪意ある人工知能を誕生させるか分かったもんじゃありません。
もし、会話によるインターフェースで自由に欲求をインプットできる改造型人工知能なんてものを作られてアンダーグラウンドで出回ったりしたらどうでしょう？
「世界の人口を半分にしてよ。」
もし、その機械にそう囁く少年がいたら・・。
本当のリスク
火力が武器として使われるように、原子力が武器として使われるように、コンピュータに悪意あるプログラムがあるように、人工知能技術も何かを破壊するために使われることは必然とさえ言えます。
そして高度な人工知能なら、たった一台の暴走で簡単に人類を滅亡させるだけのリスクがあります。チカラがあります。果たして、人類はその恩恵に授かることが出来るのか、あるいは、その破壊力に屈することになるのか？
私たちは決して開けてはならないパンドラの箱を開けようとしているのかも知れません。
参照元 ： AI革命前夜
＜関連記事＞
●近い将来、AIやロボットに人間の仕事が奪われる
2017.04.04
人工知能（AI）の劇的発達が叫ばれて久しい現在、私たちの社会は、かつてない変容の時代を迎えつつある。人間を上回る能力を与えられた人工生命体が目の前に現れた時、私たちは“それ”とどのように対峙すべきか――？ そんな近未来の人類が直面し得るリアルな脅威を描いたSF映画こそ『モーガン プロトタイプ L-9』である。なんと製作は、あの不朽の名作『ブレードランナー』で今から30年以上前にAIの存在意義を世に問いかけたリドリー･スコット。そしてメガホンをとったのは彼の息子、ルーク・スコットという驚きの超大作だ。
今回トカナは、4月5日（水）に20世紀フォックス・ホーム・エンターテイメント・ジャパンより本作のDVD＆ブルーレイがリリースされる機会に合わせ、改めてAIを取り巻く現状を整理し、問題の核心に迫るとともに未来への提言を導き出すべく、画期的インタビューを構想。長きにわたりAIの問題に第一線で取り組んできた哲学者・黒崎政男先生（東京女子大学教授）を招聘し、徹底論評を依頼した。
そして、「AIについてなら聞きたいことがある！」と目を輝かせながら聞き手を名乗り出てくれたのが、無類の映画好きとしても知られるグラビアアイドル・今野杏南ちゃん。日本を代表する哲学者と今をときめくFカップグラドル、異色タッグの化学反応があぶり出した『モーガン プロトタイプ L-9』のヤバさとAIの未来とは――!?
『モーガン プロトタイプ L-9』ストーリー
極秘研究施設で、シンセスト社が開発している究極の人工生命体、その試作品であるL-9ことモーガン。ある日、モーガンが研究者を襲って大怪我をさせる事故が発生し、調査のために本社から危機管理コンサルタント、リー・ウェザーズが送られてくるのだが、やがて事態は恐ろしい展開へ……！
■『ブレードランナー』から35年、最新のSFは何が違う？
今野杏南（以下、今野） 最近は、いろんなメディアでAIの話題が溢れていますよね。黒崎先生は、この『モーガン プロトタイプ L-9』（以下、『モーガン』）は楽しめましたか？
黒崎政男教授（以下、黒崎） ええ。こういう近未来SF映画は冒頭で説明される設定だけが凝っていて、あとは単なるアクション映画になってしまう作品も多いのだけど、『モーガン』は違ったね。アクションの“動”と、哲学的な思索の“静”が同居している。誰もが楽しめて、かつ内容も濃いSF作品だと思うよ。
今野 私もすごく面白かったんです。『モーガン』は、もうすぐこういう世界がリアルになるのかなっていう感じがすごくて……少し恐くもありましたけど。やっぱり製作陣がすごいですよね。
黒崎 実は、私が人工知能の哲学に目覚めたきっかけは、1982年に公開されたSF映画の金字塔『ブレードランナー』でしたから、あれから35年が経ってリドリー・スコットの息子が監督したSF作品ということで、実に感慨深いものがありますね。
今野 わっ、35年前！ 昔のSF大作と今回の『モーガン』にはどんな違いを感じますか？
黒崎 『ブレードランナー』で表現されていた未来は、暗く陰鬱で退廃的。未来は必ずしも明るくバラ色ではないということを、まざまざと見せつけるものでした。当時は、そのイメージに衝撃を受けたものでね。一方の『モーガン』には、『ブレードランナー』のオマージュも見られるし、全体的に暗いトーンであることは間違いないのだけど、それだけではない。美しい森と湖、それと最先端テクノロジー（人工生命体）とが対比される形で描写されている。『ブレードランナー』の舞台である2019年が目前に迫って、SFも現実に合わせて世界観を進化させている。その違いが新鮮だったね。
■生命とは何か？ 浮かび上がるテーマと問題
今野 つまり『モーガン』は現代の最先端SF作品なんですね。映画のテーマはどうですか？ 私たちに伝えたかったことはAIの恐ろしさとか、危険さなのでしょうか？
黒崎 本作の根底にあるテーマは、生きることや生命とは何かという問いかけに尽きるのだろうと思います。生命の根源を象徴的に見せるために、水の表現を上手く用いていたの、気づいたかな？
今野 水といえば、モーガンと研究員との会話で……！
黒崎 モーガンが「水は何歳だ」と尋ねる印象的な台詞があるけど、そう聞かれた人間は「すごく古い。宇宙と同じくらいだろう」と答えたよね。もちろん水は生命の発生を象徴しているから、とにかく生命の歴史とはそれだけ長いものだ、と。そんな生命が、最先端技術によってアンドロイドを生み出したことを意識させて、生命とは何かという問題を浮かび上がらせているんだね。それから、シェイクスピアの戯曲「ハムレット」に登場するオフィーリア（度重なる悲しみの後に溺死を遂げる女）を象徴するシーンもあったけど、やはり水が関連しているね。
今野 あっそれ、ネタバレになっちゃうから詳しくは載せられないかも。でも、あのラストは予想できましたか？ 私はあんなオチが待っているなんて、最後まで全然気づきませんでした。
黒崎 確かにね。後になって考えてみると色んな伏線はあったけれど、そもそもモーガン自体、アンドロイドとはいえ人工のDNAによって作られた有機生命体という設定だし、かなり人間に近い存在として描かれていたからね……。
■AIと人間の未来、本当はどうなる？
今野 そこでやっぱり、AIの問題についてしっかりと考える必要がありますよね。技術がどんどん進んで、モーガンのような人工生命体という形に行き着いたら、見た目は人間っぽいのに、誰もかなわない能力を持っているだろうし、やっぱり不気味だな……。
黒崎 そうなる可能性はあって、恐いと思う反応も正しいと思う。モーガンも何となく不気味な描かれ方だったよね。ただ、現実にモーガンのような人間の姿そのものの人工生命体が僕たちと一緒に暮らす世界になるかというと、ちょっと違う形の未来の方が可能性は高いかもしれない。
今野 どういうことですか？ どんな未来が？
黒崎 蓄積されたビッグデータの活用と、高度にネットワーク化されたシステムに人間が組み込まれてしまう可能性の方が十分にあり得るんじゃないかな。現在のAIは、統計データに基づいて情報を処理する能力を進化させている最中にあるわけだから。
少し前、マイクロソフトのTayという人工知能が差別的な言葉をたくさん学んでしまって、暴言ばかり吐くようになったというニュースがあったけど、あれはAIが人間に敵意を持ったのではなく、何も考えずに、すべて統計的に処理されて出力されていたから起きたこと。
同じくAIの脅威として、人間の仕事が奪われるという論調もあるけど、テクノロジーが発展する時は必ずそういうことがあるものだし、それで進歩は止まらない。だから問題は、最終的にそのシステムをコントロールするのが人間なのか、それともすべての人間がシステムにコントロールされてしまうのかという点だと思う。
今野 それでも、ペッパーくん（ソフトバンクの人型ロボット）のようなものが、どんどん社会に浸透してきていますよね。
黒崎 結局あれも、現在のところは情報を統計的に処理しているモノにすぎない。やっぱり人間型というのは親近感を抱きやすいから、あの形になるんだろうね。ただAIを考える上で、もう一つ見逃せない問題があって――。
■心とは何か？ 人工知能の哲学
今野 それはもしかして、心や感情という問題ですか？
黒崎 そう！ 実のところ人間は、相手が単に統計的に判断して受け答えしているものだとしても、コミュニケーションが成立する存在に対して、あたかも心があると感じてしまうんだよね。AI自身が考えたりしていないのに、いい反応を返してくると、心があるように思えてしまう。本当のところは、私たちが意味を投げ入れているにすぎないのだけれど。
今野 ちょっと待って下さい。その話を突き詰めていくと、実はこうやって人と話しているけど、相手が本当に人間かどうかは断言できないということになりますよね。もしかしたら人工生命体なのかもしれない！
黒崎 心は見えるものではいからね。でも、いま私が話している今野さんは、もちろん人工生命体などではないでしょう。となると、やはりAIと人間の決定的な違いとして、モノを超えた魂や自己意識のようなものがあるのか、という点が重要になってくる。そして、だけど、他者の魂や自己意識の存在は、外部からは決して直接には認識しえないというところが、キモだよね。
今野 そうか！ 心があるかどうかは客観的には調べられないから、結局は他の人がそれを認めるかどうかで判断されるわけですね。
黒崎 そうなってしまうんだよね。映画でも、モーガンについて研究者が「itではない。sheだ」と言い張るシーンがあったよね。作った人間にとっては愛着があり、コミュニケーションも取れるからsheなんだけど、特に思い入れがない部外者にとっては単なるitでしかない。
■人工知能に心があると認めたら何が起こるか？
今野 ただ、本作のモーガンは、人工DNAによって作り出された有機生命体という設定で、研究員たちもモーガンに心を持たせることを目的にしていたから、人工生命体といっても魂や自己意識があるという設定でしたね。
黒崎 そうだよね。モーガンが「天国はどんなところ？」と研究員に訊ねるシーンがあったけど、天国とは肉体が滅んだときに魂が行く場所。だから、モーガンに天国のことを語らせることで、その中に魂が宿っていることを示唆しているようだったね。
今野 それに映画を見ていると、人工生命体であるモーガンの境遇に感情移入してしまうというか……。
黒崎 こちらの感情移入を許すんだよね。モーガンのことをitだと割り切って鑑賞することもできるはずなのに。
今野 私たちがモーガンに共感してしまうように、もしもAIにも魂や自己意識、心があると時代が認めるようになったら何が起こりますか？
黒崎 あり得る話だけど、現実にそうなったとしたら、AIの価値が上がるのではなくて人間の価値が下がることにつながるよね。心を持つ存在を人間が作れるとなれば、私たち人間の心も作られたモノと同じ。AIを壊すことと人間を壊すことも同じになって、人間の存在が“なんてことはない”と判断されるようになる。
■AIを考えることは人間を考えること
今野 では、モーガンのように心を持っている人工生命体と、心を持たずに人間の指示だけを完璧に実行してくれる人工生命体がいるとして、一方と一緒に暮らさなければいけないとしたら、先生はどちらを選びますか？
黒崎 モーガンと暮らしたら襲われてしまいそうで恐いなあ（笑）。
今野 私も感情を持たずに何でも言うことを聞いてくれる人工生命体のほうがいい（笑）。
黒崎 でもさ、そんなAIがどんどん発展すると、人はますます魂と魂のぶつかり合いというかな、人間と人間の接触を避けて生きるようになっていくだろうね。すでに今でもその傾向は見られる。ハラスメントとなることを恐れて、人間は一個一個の存在となり、それがビッグデータとネットワークで支配される。人間関係が根本的な部分で変容するでしょうね。
今野 う～ん。AIが心を持ったら厄介だけど、心を持たないAIの発展も人間を変えていくんですね。今まさに、そんな変化の最中にあるんですよね？
黒崎 そう。コンピュータができてから60～70年、AIの処理能力の方が人間を上回る、ちょうどそのタイミングにある。今はとんでもない変化の時代だと思うよ。もともと私は牧歌的な人間だから、本当はこんな時代に生まれない方が良かったなんて思うこともあります（笑）。「行動には結果が伴うことをモーガンに教えなければいけない」なんていう台詞があったけど、まさにその「フレーム問題」をはじめ、人工知能には解決しなければならない問題がたくさんある。でも、進歩は止められない。
今野 なんだか恐いような、楽しみなような……。まさに始まったばかりの大きな変化について、『モーガン』が教えてくれることはたくさんありますね。
今回、黒崎政男先生と今野杏南ちゃんの対談から浮かび上がった人工知能を取り巻く問題の核心、それは実に明確だ。結局のところ、人工知能をどう考えるかは、人間が自分自身をどう考えるかということの裏返しなのだ。『モーガン』をありふれたSF作品として決して侮ることなかれ。映画の世界はもう、目前に迫っている。
（取材・文・構成＝編集部）
黒崎政男 プロフィール
1979年東京大学哲学科卒業、同大大学院人文科学博士課程を経て東京女子大学教授。著書に「哲学者はアンドロイドの夢を見たか」（哲学書房）「今を生きるための『哲学的思考』」（日本実業出版社）など。
今野杏南 最新情報
日本テレビ・読売テレビ系ドラマ『恋がヘタでも生きてます』
毎週木曜日23：59～ 小池奈々役でレギュラー出演中。
公式Twitter @konno_anna
参照元 ： TOCANA
【閲覧注意】人工知能の本当のリスク
【必見】人工知能を題材にしているオススメ映画を4つ紹介
人工知能技術は私達の生活大きく変えると言われています。より豊かでより幸福な暮らしが実現する可能性がある一方、人類が滅亡してしまうような悲劇のシナリオも可能性としてあります。人工知能によって引き起こされる悲劇とは一体どのようなものが考えられるか、想像してみたいと思います。
企業が全てを独占するリスク
人工知能のリスクと言えば、ターミネーター的な恐怖を思い浮かべる人が多いと思いますが、それだけではありません。
高度な汎用型人工知能システムのプラットフォームを、もし一企業なり国なりが独占してしまったら、とてつもない利益を独占することになります。その企業が吸い上げた莫大な利益を全人類に還元してくれるなら、人類の未来はバラ色と言えるかも知れません。
生産（労働）に関しては全て機械がやってくれるようになって、誰も食べるために仕事をする必要はなくなり、人類の役目は遊ぶこと（消費）や、芸術活動などです。
ついに人類は労働から解放されるわけです。昔、貴族やお金持ちが奴隷を手に入れたように。ただし、その独占した企業や国が、果たしてそこまで奉仕的に全人類に対して平等に還元してくれるのか？そこははなはだ疑問です。
もしGoogleが汎用型人工知能プラットフォームを世界中に普及させたとすると、Googleはまさにこの地球の支配者となります。MicrosoftがWindowsを全世界に普及させたことよりも遥かに大きなインパクトとなるはずです。
全人類を労働から解放するほどの利益を、もし一社、一国に独占されてしまうと人類に未来はないでしょう。とてつもない恩恵なだけに、その恩恵は大きな争いの種となる可能性を孕んでいます。
多くを還元するにしろ、全人類に平等にその恩恵が行き渡るとは考えられません。人工知能技術による爆益を巡って、対立構造、支配構造が生まれることは必至です。人工知能技術によって得た利益をどう分配するか？これは非常に大きな問題です。
人類滅亡のリスク
ベタな話ですが、ターミネーターのように人工知能によって人類が滅ぼされるというリスクも十分あります。
機械に欲求を持たせる
映画ターミネーターで語られたのは、人工知能を備えた兵器スカイネットが自然発生的に自我を獲得し、さらに生物と同じような生存欲求をも獲得した結果、その暴走を止めようとした人類との生存を賭けた戦いに発展するというものでした。
自我というシステムがどうやって出現しているのかが分かっていない以上、それなりに高度な認識能力、判断能力を機械が身につけた時点で自然に発生するというシナリオも決して否定はできないのですが、正直、機械が自然発生的に自我を獲得するというのは、現実としてはそう起こりえることではないと思います。
それよりも現実的に脅威となるリスクが存在します。それは、悪意のある人間が、悪意ある欲求を機械に発生させることです。
自我なんてなくても、見せかけの欲求を機械に持たせることは比較的容易です。例えば、捉えようによっては、エアコンには室温をある一定の温度にしようという欲求があると言えます。自動運転で目標室温を設定すれば、その室温になるように動きます。
エアコン程度の自動システムは、普通、人工知能とは言いませんが、欲求とはつまりそういうことです。
エアコンが持つことができる欲求はせいぜい部屋の温度を何度にするか？というぐらいですが、高度な汎用性を持つ人工知能になら生存欲求を持たせることも、知的欲求を持たせることも、破壊欲求を持たせることも、増殖欲求を持たせることも原理上は可能です。
自我なんて関係ありません。自我があろうがなかろうが、外から欲求を与えることは機械である以上可能なわけです。機械に悪意も善意も良心もありません。それなりに賢い人工知能なら、ヒトが生きている状態と死んでいる状態を見分けることはもちろん、何をどうすれば生きているヒトが死ぬのか？それぐらいは簡単に理解できるでしょう。
そんな人工知能に、まるでエアコンの設定温度を25度にするかのように、「地球の総人口を10億人にする」という設定をすることだって可能です。殺戮欲求を持つ人工知能です。
殺戮欲求を持つ人工知能
人間より遥かに賢い人工知能に、一人でも多くの人間を殺戮するという欲求を持たせたら、果たしてどんなことが起きるでしょう？
それなりに賢い人工知能なら、一人ずつ殺していくような馬鹿な真似はしないでしょう。やろうと思えば、世界中のネットワークをハッキングして人間社会を混乱させて、戦争状態を作る事だって可能だと思います。
遠隔操作で動かせる兵器があれば、ハッキングして全弾発射させることもできるでしょう。
遠隔操縦が前提である無人爆撃機プレデターなんて簡単に乗っ取ってしまうかも知れません。旅客機でさえも武器となる可能性もあります。管制塔を乗っ取ればパイロットの精神状態にダメージを与える何かを発信することだってできるかも知れません。
もし世界のどこかに遠隔操作できる核弾頭があれば、無慈悲にも発射してしまうでしょう。しかも最も効率的に人類を破滅に追いやることができる地点に。それがワシントンなのか？ニューヨークなのか？ロンドンなのか？計算によって導き出すはずです。もちろん単純に人数が多い場所というわけではなく、より効率的に世界を混乱に陥れる地点を！
恐ろしいのは、上記のような恐怖のシナリオがたった一台（単位が適当かどうか分かりませんが）の汎用型人工知能によって成し遂げられる可能性があるということです。社会に不満を持つ誰かが、人工知能に世界を破滅させる欲求を与えた瞬間、人類は終わりです。
そんな簡単に出来るはずがない？いえ、もしかしたら簡単に出来るかも知れません。
オープンソースな人工知能
一企業が人工知能技術を独占してしまうリスクについて先ほどお話しましたが、その対策として、「誰かが独占するのではなく全てオープンソース化して、皆で全人類のために使おうじゃないか！」という理念もあります。
確かに誰かにその利益を独占させることなく、Linuxシステムのように誰もが使える人工知能プラットフォームが出来れば、その恩恵は分け合えるかも知れません。しかし、高度な汎用型人工知能をオープンにしてしまうということは、極端な話、その人工知能にどんな欲求でも持たせることが出来るようになる可能性があります。
ロボット三原則じゃないですが、もちろん、ユーザーレベルで何でも出来るような状態で世に出回ることはないと思いますが、オープンソースとなると、どこの誰が悪意ある人工知能を誕生させるか分かったもんじゃありません。
もし、会話によるインターフェースで自由に欲求をインプットできる改造型人工知能なんてものを作られてアンダーグラウンドで出回ったりしたらどうでしょう？
「世界の人口を半分にしてよ。」
もし、その機械にそう囁く少年がいたら・・。
本当のリスク
火力が武器として使われるように、原子力が武器として使われるように、コンピュータに悪意あるプログラムがあるように、人工知能技術も何かを破壊するために使われることは必然とさえ言えます。
そして高度な人工知能なら、たった一台の暴走で簡単に人類を滅亡させるだけのリスクがあります。チカラがあります。果たして、人類はその恩恵に授かることが出来るのか、あるいは、その破壊力に屈することになるのか？
私たちは決して開けてはならないパンドラの箱を開けようとしているのかも知れません。
参照元 ： AI革命前夜
グーグルの創始者の一人であるセルゲイ・ブリン氏「こんなに人工知能が発達するのか注意を払ってなかった。そしてその未来がどうなるのか見当がつかない」と発言。自分たちで作ったクセにどうなるか分からないとは。https://t.co/WbgG2BT2fb— 非一般ニュースはアカウント凍結 (@kininaru2014111) 2017年4月17日
大学生が予想！— 美人革命 (@vampirediary55) 2017年4月16日
近い未来「人工知能」に取って代わられそうな仕事
『バイト先が無くなる』
資産家にすれば雇用ほど、リスクが高いものは無いだよ！#ベーシックインカム 拡散
https://t.co/P5n8vazRX1
「人工知能がいずれ言語翻訳を完璧にやってくれる」という楽観論があります。落合陽一さんとも繰り返し議論しているのですが、日英バイリンガルの自分としては極めて懐疑的。ニュアンスや文化の違いをも乗り越えてアルゴリズム翻訳することは最終的に不可能で、学ぶ以外にない、と思ってます。— モーリー・ロバートソン (@gjmorley) 2017年4月12日
これから未来にAI人工知能やロボットが増えると、機械はプログラムされたことしかできないから、そういう「教えられなくても、言われなくても気付く仕事（プログラムされてないこと）」を人間の労働者に求められるのではと思う。つまり、ますます働きにくくなると思う。— あんず楓 (@answer4kaede) 2017年4月11日
＜関連記事＞
●近い将来、AIやロボットに人間の仕事が奪われる
0 件のコメント:
コメントを投稿