働き方・生き方

「AIと共存するためにすべきことは、山ほどある」

NHKクローズアップ現代など、元NHK科学番組のチーフプロデューサーを務めた室山哲也講師が「温暖化」「ダイバーシティ社会」「AI」「自動運転」をキーワードに、科学ジャーナリストの視点で世の中を観測した書き下ろし講師コラムです。

「将棋や碁の名人にAIが勝利！」「医師でもわからないガンを発見！」「AIが小説を書いた！」はては2045年問題で「AIが人類を支配する？」・・・。AIを取り巻くニュースには、驚きと称賛と不安が入り混じっている。私は不思議に思う。

私たちは、なぜこれほどまでAIに強烈な関心を寄せ、期待感とともに、警戒心を持つのだろうか？
自動車が作られた時は「人類がスピードで負けた！」とは言わなかったのに、なぜAIに対しては、このような感情を持つのだろうか？

AIに向けて人間が抱く不安の正体

それはAIが、今までのどの技術よりも、「意識」や「判断」といった人間特有の能力に接近しているからだろう。「人間は神がつくった最高傑作」という人間中心主義が、揺らぐような恐怖を覚えているからかもしれない。しかし、いずれにしても人間は、自らの手で、AIという存在を作り上げてしまったのだ。

人類は生物的には虚弱だ。しかし、肉体の弱さを、知恵の力で補い、生き延びてきた。

脳を巨大化させ、記号を操り、イメージを練り上げ、それに基づいて、道具やモノを作り、都市や文明社会を構築してきた。ある意味、現代文明は、「人間の生物としての能力」を拡大する歴史だったともいえる。

「見る」能力は、望遠鏡や顕微鏡で宇宙やミクロの世界にまで拡大され、「しゃべる能力」は、拡声器、放送、通信で、地球の果てまで届くほどになり、「走る能力」は、自動車や新幹線、航空機やロケットで、驚くべきスピードとなった。そしてついに、脳の機能「考える能力」はコンピュータによって拡大された。その結果、膨大な情報を記憶し、計算できるようになり、その文脈で、人間の意識に似た活動のAIが出現したわけである。AIは自然界に、突然現れたのではなく、人間が必然的に作り上げたものなのだ。

AIは、今後、経済、医療、教育などで活躍し、社会全体を革命的に変化させるだろう。しかし今後、様々な課題があることもわかってきた。

自動運転を例に、いくつかの事例を見てみよう。

自動運転の前提知識

結論から言うと、AIの進歩のスピードに、法律や人間社会のルールや人間の特性が追い付けない構図から、様々な課題が生まれている。

まず、自動運転とはなにかを整理する。自動運転のレベルは1から5まであり、自動車走行の動きの二つの要素、つまり「左右の動き」（ハンドル操作）と「前後の動き」（アクセルとブレーキの操作）がどれだけ自動化されているかで決まる。

レベル1は二つのうち、一つが実現した状態（自動ブレーキやACCなど）。
レベル2は二つが実現されており、例えば、高速道路でボタンを押せば、車線を超えて車を追い抜くことも可能。レベル3はレベル2がさらに進化した状態で、基本的には、システムが運転するが、緊急事態が起きた時は、ドライバーが運転代行をすることになっている。
レベル4は限定条件（場所、時間、スピード、天候など）のもと、システムによる自動運転（ドライバーなし）が可能。
レベル5は、どこでもいつでも、ドライバーなしの無人運転で走行できる段階である。

では、車は、誰が操作するのだろうか？

自動運転の課題

レベル１と２はドライバー（事故を起こせばドライバー責任）。レベル3以上は、システムが運転主体となる。しかし、事故時の法的責任はまだ検討中という状況である。そして、自動運転の課題は、主にレベル3以上で指摘されることが多い。

自動運転の場合、係る主体が、自動車所有者、メーカー、ナビなどの情報提供者、道路管理者など多岐にわたるため、事故時の責任の所在が複雑となる。レベル3では、運転代行をどのような方法でドライバーに知らせるのかも大きな課題だ。

そもそも、自動運転でシステムが車を動かしているとき、ドライバーの意識は散漫になりやすく、「運転代行」の指示を的確に出さなければ、かえって危険性が高まってしまうからだ。そのため、レベル3では、AIが、常にドライバーの健康状態や意識の状況を把握して、ドライバーの状況に応じてサインを出すシステム（HMI）が必要になってくるが、実際には至難の業で、まだ完全なものは発表されていない。

AIに判断させるには現状、難問とされる問題

「トロッコ問題」といわれる究極の問題もある。たとえば、無人走行中の車が、ハンドルを右に切っても左に切ってもだれかが死亡し、急ブレーキをかければ、車内の人が死亡するような場合、AIはどのように判断すればいいかという問題である。

人間のドライバーの場合、ケースバイケースでとっさに判断するが、自動運転の場合は、事前にその場合どうするかという判断をAIにインプットしておかなければならない。

例えば、右に二人、左に一人の歩行者がいる場合、やはりハンドルは人数の少ないほうに切ればいいのだろうか？不謹慎だが、90歳以上の老人が二人、若者が一人の場合はどうなるのだろうか？社会的地位や影響力、性別などの要素は考えなくてもいいのだろうか？

この悪魔のような判断は、いわゆる「生命の選択」であり、事前には当然、社会的合意が必要となる。私達は、このような判断基準を、事前に決めるなど、本当にできるのだろうか？

AIの課題は、むしろ人間側の課題

実は、AIをとりまく課題には、このように、あいまいで判断しにくい状況を、表に出して合理化、定量化しなければならないものが多い。社会の中に存在する、定量化しにくい部分、暗黙知に近い部分を、どのように合理的にルール化していくのかは、AIそのものの問題というより、むしろ人間側の課題といえる。

今後、私たちは、AIを取り巻く課題を、工学的議論を超えて、社会的側面から慎重に、十分な時間を取って行わなければならない。どれほど最先端の素晴らしい技術であっても、人間社会が受け付けなければ、広がってはいかないからである。

「人間とは何か？」「人間の幸福とは何か？」といった、哲学的作業も進めながら、豊かな社会を作り上げていく必要がある。AIと共存するためにすべきことは、山ほどあるのである。

講師紹介

室山哲也（むろやま　てつや）
日本科学技術ジャーナリスト会議副会長、元NHK解説主幹、大正大学客員教授、東京都市大学特別教授、科学ジャーナリスト プロデューサー。
テクノロジー、生命・脳科学、地球環境問題、宇宙開発など、「人類と科学技術文明」をテーマに論説を行い、子供向け科学番組｢科学大好き土よう塾｣（教育テレビ）の塾長として科学教育にも尽力。

講師への講演依頼はノビテクビジネスタレントで！