(3) 無限の交通シーンの再現・学習=完璧なアルゴリズムの作成の難しさ
筆者は、「
AI・IoTの利活用の在り方」ニッセイ基礎研究所『基礎研レポート』2019年3月29日にて、「自動運転技術の安全性を極限まで高めるためには、実走行試験に加えサイバー空間でのシミュレーションも駆使して、地域ごと、専用道・一般道ごとに想定され得る交通シーンを網羅的にAI に学習させる必要があり、そのためには、気の遠くなるような無限に近い地道な開発作業が必要となるだろう」と指摘した。このような完全なアルゴリズムに少しでも近づけるべく、想定外の事象を可能な限り一つ一つつぶすために、自動車メーカーや巨大デジタル・プラットフォーマーなど自動運転の開発に取り組む企業は、膨大な走行データの収集に日夜しのぎを削って取り組んでおり、このこと自体は社会的価値の高い企業努力である、と評価できる。
しかし、筆者が同稿にて指摘したように、無限に近い交通シーンを再現してAIに学ばせることは、フレーム問題などに起因して現実的には難しい。このことは、想定外の事象を完全排除できる、すなわち事故率がゼロとなるような、完璧なアルゴリズムの作成が難しいことを意味する。自動運転による事故率は勿論、手動運転によるそれを下回ることが望まれるが、自動運転によっても事故率がゼロにならないなら、自動運転による事故率がどれくらいの水準であれば安全とみなすのか、線を引く必要がある。このため、「世界の監督官庁にとって自動運転の安全性評価は共通の課題だ。『何をもって安全とするのか』が未だ確立されておらず、各国でも議論が始まったばかりだ」
10。
前出のギル・プラット氏は、このような論点を含めて、技術的・社会的側面から見た自動運転の社会実装の難しさについて、CESで非常に真摯な姿勢で語っている。CES2017でのスピーチでは「歴史的に、人々は、機械の不具合によるケガや死亡を一切許容しないということが示されています。そして、自動運転車の性能を左右する人工知能システムは、現時点では不完全であることが避けられないことを私たちは理解しています。では、どのくらいの安全が必要十分な安全なのか。非常に近い将来、この質問への答えが必要になります。私たちはまだ確かな答えを持ち合わせていません」「総合的には、試作段階の私たちの自動運転は様々な状況に対処できます。しかし、機械の対応能力を超える状況は未だに数多くあります。レベル5の自動運転で必要になる完全性を実現するためには、何年もの機械学習や何マイルものシミュレーション・実走行によるテストが必要になるでしょう」
11と語り、さらに直近のCES2019 では「これ(※レベル5 の自動運転)はすばらしい目標ですし、私たちもいつかは達成できるかもしれません。しかしながら、こうした自動運転システムが抱える、技術的・社会学的な難しさを甘く考えてはいけないと思っています。たとえば、絶え間なく変わる環境において、人間のドライバーと同等の、もしくはそれより優れた運転をするうえで必要な社会順応性をどのようにシステムに教えるのか。いつ歩行者が道を渡るか、もしくは交差点の信号が青なのに、警察官が『止まれ』のサインを出した際に警察官が指示していることをどのようにシステムに教えるのか。それに、自動運転車両でも発生が避けられない事故や死傷を社会が受け入れるには、相当な長い時間がかかることも気にとめなくてはなりません。自動車業界においてもIT 業界においても、いま述べたような質問に完全に答えられる人はいないと思います」
12と語った。
同氏のこれらのコメントは、AIに複雑な交通シーンを網羅的に覚え込ませ、ひいては完全自動運転の社会実装を果たすことが、フレーム問題などのために、いかに難しいかを明確に示唆している、と思われる。
10 日刊工業新聞2019年2月27日「自動運転、乗り越えるべき壁(上)レアケースの収集」より引用。
11 注9と同様。
12 トヨタ自動車ホームページ2019年1月8日「CES 2019 トヨタ・リサーチ・インスティテュート(TRI)ギル・プラットCEOスピーチ参考抄訳」より引用。ただし、(※ )は筆者による注記。