シンガポール通信-日経新聞論説「人工知能の光と影」：安易なAIブームに対する警鐘

日本経済新聞に９月６日、７日の２回にわたって、「人工知能の光と影」と題する論評が記載された。第１回は京都大学西田豊昭教授によるもので、第２回は日本経済大学の西垣徹教授によるものである。いずれも現在の安易な人工知能（AI）ブームに対する警鐘であると考えられる。

現在、グーグルのアフファ碁が囲碁の世界チャンピオンクラスの棋士を破ったことや、IBMの開発したワトソンが人間の対戦相手を破ってクイズチャンピオンになったことなどがセンセーショナルに報道されて、AIはブームであり（「第３次AIブーム」と言われている）、なんでもAIでできるのではといった論調がメディアで目立っている。

それを肯定的にとれば、AIによって豊かな未来が開けるといった肯定的な未来像が一方では描かれ、他方それを否定的に捉えれば、今世紀の中頃にはAIの知能が人間の知能をすべての面で凌駕する時が来るとか、それによって人間の職業の多くがAIに取って代わられるとかAIが人間を支配するなどの暗い未来を予言する論評も多い。

日経新聞に「人工知能の光と影」と題して掲載された今回の論評は、AIの分野の著名な研究者がそのような安易なAIに対する考え方に対し、批判し警鐘を鳴らしたものだと考えることができる。AI研究の中枢にいる研究者が世間一般の安易なAI像に対して自分の専門分野の知識と経験に基づいて発言したものとして重みがあり、大変重要な発言であると評価したい。

当然ではあるが、AI研究の現場にいる研究者達は現在のAI研究開発のレベルを知っており、そのためにマスコミによって作り上げられた現在の安易なAIブームに対しては、大半の研究者が懐疑的なもしくは否定的な見方をしている。しかしながらそれらの懐疑的もしくは否定的な意見が公になることは少ない。

テレビなどに出てくる識者の大半は、AIの急激な進歩を認めそれが人間の知能に追いつき追い越す時が来ることを認めた上で、それを肯定的に論じるか否定的に論じるかの二派に分かれている。いずれにしてもマスコミが作り上げようとするAIブームに乗った発言をしているわけである。もっともそのような識者はいずれもAI研究の中心にいるわけではなく、周囲からそれを眺めている人たちである。

それに対してAI研究の現場で研究している現役の研究者から現在の安易なAIブームに対して否定的な意見が出ることはほとんどない。それは、AIがブームになることによって政府の助成金などが増額され研究が行いやすくなっているなど、自分たちに光が当たる状況になっていることが原因と考えられる。つまり現在のAIブームが作り上げられた虚像であることはわかっていても、自分の発言でそれに水をかけることが自分にとって不利になることがわかっているからである。いわばAI研究に対して不利になる発言をしないため、だんまりを決め込んでいるという言い方もできる。

その意味で現在のAI研究のレベルをよく知った西田氏、西垣氏によるAIブームに振り回されない冷静な議論は大変貴重であるといえよう。

西田氏はAIの急速な進歩に対して提出されている種々の懸念を簡潔にまとめて説明し、AIの技術進展の側面だけではなくそれが持つ負の面をどのように考慮していくべきかを論じている。具体的には第一に、現在のAIの新展開がビッグデータの学習に基づいていることから、ビッグデータに含まれない新しい状況が生じた時にAIは対応できるのか、また対応できずに暴走した場合にはどのように対応するのかなどの検討が必要であると論じている。

第二はプライバシーやセキュリティの問題である。センサーネットワークにより収集された膨大なデータがAIで分析されることにより、個人や集団のプライバシーやセキュリティが侵される恐れがあることである。第三はAIによる失業の問題であり、人間が行っている種々の仕事をAIが代行することにより人間が従事する仕事の多くがなくなる可能性があるという恐れである。第四は自律兵器の開発の問題であり、自律的に攻撃対象を決めるAI機能を持った兵器が人間を攻撃対象としてしまう恐れである。そして最後にAIの発展により人間が考えたり創造力を発揮する機会が減ることにより、人間社会の活力が失われ社会が衰退へ向かうのではないかという恐れである。

そしてこれらの恐れに対応するために国際間、政府、大学など種々のレベルでのオープンな議論が行われる必要があることを論じている。欧州などではこのような問題に対する人々の意識が高く、ロボットの道徳判断機能を持たせるべきではないとの考え方が支持されているという。これに対して先に述べたように日本では、AIの技術進歩を単純に褒めたたえたり、その逆にAIの技術進歩による暗い未来を予測するなどの単純な議論が多いことは確かである。なぜそうなのかはまた別に議論する必要があるが、頭に留めておくべきことではある。