百嶋上席研究員(以下、百嶋):小木津先生の取組み姿勢として、まずは狭い限定領域で走行し、将来的に高い運転自動化レベル、つまりレベル4を目指すというのは非常に合理的で、共感するところです。その一方で、先生は遠隔監視型の自動運転システムに「敢えてAIを使わない」とおっしゃっています
3。
実はAIも、学習していない想定外の事象に対して臨機応変に対応できないため、想定外の事象が起こりにくい出来るだけ狭い限定領域の方が成果をもたらしやすく、実装しやすい面があります。ただし、先生もおっしゃっている通り、ディープラーニング(深層学習)で学習したAIモデルの場合、判断した経緯や根拠を、使う側の人間が理解できないという「ブラックボックス」の問題があります。自動運転は、乗客乗員の生命・安全に係わるため判断の説明責任が問われるのに、AIのブラックボックス問題があると、自動運転への信頼醸成が進みにくくなる面があるでしょう。
他にAIを使わない理由として、コストのことも考えていらっしゃるのかなと思います。「車両制御やその判断材料にAIを使わないことで、車両に搭載するコンピューターはノートパソコン1台程度で済む。逆に、人間と同じ水準の状況判断をAIでしようとすると、コストが高くなるだろう」とおっしゃっています
4。まず自動運転システムにAIを使わない理由をお教え頂けますでしょうか。
小木津氏: 自動運転にAIを全く使わないという訳ではなく、使い方を限定させています。AIの有用性は私も感じていますが、あまり使わない理由は、先ほどから出ている責任の問題です。
確かに、自動運転を運用する際にODDを限定させたとしても、おっしゃる通り、想定外の状況は生じてしまう。その問題に対して、AIにはブラックボックスがあるという問題はもちろんありますが、そもそも判断を自動でできるようにするということが、いま一番注力すべき点だとは、私はあまり思っていません。そこは人とコラボレーションできる部分ですから、ある程度、遠隔にいる人がオペレーションでカバーできる部分もあります。
人は柔軟に思考できる点と、責任を持って判断できる点が非常に大きな特徴なので、そこを生かさない手は無いと思っています。専用道ではなく、公道を走行する限りは、基本的に、人の介入をゼロにするレベル4への到達を優先するよりも、人がちょっと介在する構造で仕組みを作っていった方が、使いやすいものになるのではないかと考えています。
百嶋: 自動運転車を限定領域で走行させるにしても、実世界ではやはり想定外のことは起こり得ると思います。小木津先生は、事故率ゼロを目指されるとは思いますが、仮に必ずしも事故率がゼロにまで低減しないとした時には、やはり自動運転による事故率がどれくらいの水準であれば安全とみなすのか、という安全水準の設定と社会的受容性の醸成が極めて重要になってくると思います。自動運転の事故率が手動運転より高くなるなら、勿論実用化はできないと思いますが、どれぐらいまで低減できれば人間は許容するのか、また自動運転を導入しようという機運が醸成されることになるのか。小木津先生はこの点についてどのようにお考えでしょうか。
小木津氏: おっしゃる通り、ゼロになるとは思っていません。人が介入するシステムを敢えて付けることになるので、ヒューマンエラーがゼロになるという自動運転のメリットはちょっと捨てているところはあります。人間の判断の柔軟性と、ヒューマンエラーによる事故率の発生がトレードオフになってしまう。ただ、自動運転になった場合に、人が運転した場合より事故率が悪くなってはいけないというのは、もちろんその通りだと思っています。
私が一番大事だと思っているのは、いったん交通事故が起きたら、地域の受容性が無くなってしまうという事態を避けることです。事故率が「ゼロかイチか」というような議論は徐々に、日本だけかもしれないが、少なくなってきているのではないかと感じています。
我々も過去に事故の発生を経験したことがあり、いろんなバッシングを受けて成長してきた部分もあります。その中で私自身が感じたのは、事故が起きた時に、きちんと何があったかを伝えていくこと、いくら人の運転より事故が少ないからと言って、そこにあぐらをかいてはいけない。きちんと何が起きたか、それに対してどう対処したかを、いち早く、心配されている方の耳に届けることを意識しておくことが、地域の受容性を確保、維持していく上で極めて重要だと感じています。
もちろん、事故率を下げるためにAIを使うという考え方もあるかもしれませんが、いろんな方法で事故率を下げるように技術を向上していかないといけないし、万が一事故が起きてしまった場合にはきちんと説明するということです。
日本の場合は特に、いろんな交通課題への危機感がある中で自動運転を導入しようとしているので、事故に対してはこのような対応をきちんとすることで、ある程度納得してもらえる、受容性が得られると私は期待しているところです。
百嶋: 自動運転の実用化において、最初は限定領域で実装して、徐々に広い領域に適用範囲を拡大していくという考え方があると思いますが、私はそのような点から線へ、さらに面へ拡大していくやり方は、自動運転には馴染まない、難易度が極めて高いと思っています。地域ごとに走行環境が異なるため、各々に最適なシステムを構築することが基本であると考えるからです。小木津先生が言っておられるように、それぞれの地域ごとで、専門のスタッフが実査し判断して自動運転システムを作り込むなどして、適用範囲が非常に狭くても、そのような運行する「点」を数多く作ることが重要だと思っています。それがつながって「線」になればそれに越したことはありませんが、自動運転システムが高精度に作動する狭い限定領域という「点」を国内や世界にいくつも作り出すことでヨコ展開ができれば、それは社会的意義の非常に高い活動であると私は考えています(図表5)。そういう理解でよろしいでしょうか。