2019年11月18日

文字サイズ

1――はじめに

筆者は、「AI・IoTの利活用の在り方」『ニッセイ基礎研所報』2019年Vol.63、2019年6月にて、「人工知能(AI)の社会実装には、AI研究の最大の難問と言われる『フレーム問題』が横たわる。フレーム問題とは、世の中で起こり得るすべての事象から、今行うべき分析・判断に必要な情報のみを『枠(フレーム)』で囲うように、選び出すことがAIには非常に難しい、という本質的な問題だ」と指摘した。

一方、AIの利活用分野として、自動運転への期待は大きいが、その実用化においても、AIのフレーム問題への対処が重要なカギを握る。筆者は同稿にて、「チェス、将棋、囲碁といったボードゲーム、生産ラインにおける組立作業、画像認識や音声認識などのように、フレームをはめることができる限定された環境・空間の下で特定のタスクをAIに担わせる場合は、AIは強みを存分に発揮し、その社会実装・実用化が進みやすい。一方、現実社会の複雑な環境下で用いられる自動運転技術では、基本的にフレーム問題の影響は大きいと考えられるが、道路・走行環境が最も複雑な都市部の一般道に比べ、フレーム問題の影響が相対的に小さい高速道路や過疎地にエリアを限定した走行環境での実用化を先行させることは、フレーム問題の観点から理にかなっていると言えよう」と指摘した。

本稿では、これらの筆者の指摘を深堀りしたい。すなわち、AIのフレーム問題について説明した上で、AIの利活用分野として大いに期待がかかる自動運転を取り上げ、AIのフレーム問題から見た技術的課題を考察することで、AIの社会実装の在り方へのインプリケーションについて論じたい。
 

2――AIのフレーム問題と社会実装

2――AIのフレーム問題と社会実装

1AIのフレーム問題とは
AI1の社会実装においては、AI研究の最大の難問と言われる「フレーム問題」2が横たわることに留意しなければならない。そして、AIを開発・進化させる科学者・開発者やそれをツールとして社会に実装・利活用する企業経営者など人間が、そのフレーム問題を回避するような工夫をしっかりと凝らすことが不可欠だ。

AIのフレーム問題は、AIの名付け親で初期のAI研究の第一人者であるジョン・マッカーシーとパトリック・ヘイズが1969年に提唱したものでAI研究の古典だが、未だに未解決である、とされる。

冒頭に記述した通り、本稿では、フレーム問題とは、「世の中で起こり得るすべての事象から、今行うべき分析・判断に必要な情報のみを『枠(フレーム)』で囲うように、選び出すことがAIには非常に難しいという問題」と定義する。このため、どんな方法を取っても、本来関係のない無視すべき膨大な事象を含めて、世の中のありとあらゆる事象について、関係のある必要な情報かどうかをイチから1つずつ確認しなければならず、そのために情報処理における計算量が爆発的に増加してしまい、有限の情報処理能力しか持たないAIは停止してしまい、今行うべき問題解決ができなくなるのである。

筆者は、「AI・IoTの利活用の在り方」ニッセイ基礎研究所『基礎研レポート』2019年3月29日にて、「そもそもAIは、ディープラーニング(深層学習)の過程で学んでいない想定外の事象に対して、臨機応変に対応することができない」と指摘した。フレーム問題には、「AIのプログラムの中に、想定外の事象を含めて、世の中で無限に起こり得るすべての事象を原理的に記述し切れない(=AIに覚え込ませることはできない)」という、構造的な問題も含まれる。また、現在のAIは、自らが解くべき問題を設定することもできない(=与えられた問題以外を解くことはできない)。
 
1 現在実用化されているAIは、特定のタスクしかこなせない「特化型AI」である一方、人間のように多様なタスクをこなせる「汎用AI(AGI:Artificial General Intelligence)」は、現在のテクノロジーの延長では実現しない、とされる。特化型AIは「弱いAI」、AGIは「強いAI」とも呼ばれる。本稿では、現在のAIである特化型を前提として議論を進めることとする。
2 AIのフレーム問題に関わるより詳細な説明は、巻末の<補論>を参照されたい。
2AIの社会実装には「限定された閉じた世界」を作る人間の役割が極めて重要
想定外の事象が無限に起こり得る複雑な現実世界は、フレーム問題を抱えるAIが最も苦手とする環境である、と言える。問題設定も曖昧なままにフレーム問題を回避するための何の工夫も施さずに、人間がAIを複雑な現実世界に放り出すと、AIは途方に暮れて立ち尽くしてしまい、身動きが取れなくなるリスクが高まるのだ。

このため、AIを現実世界に実装し、問題解決のスピードの速さや精度の高さなどAI本来の強みを存分に発揮させるためには、AIがフレーム問題に直面して悩まないように、社会実装を行う人間がフレーム問題をうまく回避できるような環境を人為的に整えてやることが、極めて重要となる。つまり、AIが思う存分活躍できる舞台を設定してやることは、人間が果たすべき極めて重要な役割なのだ。

AIが問題解決に無関係な事象をいちいち探し出し、それらを無視することに自らの計算リソースを浪費せずに、関係のある重要な事象を分析・判断することに貴重な計算リソースを集中できるようにするためには、AIが解くべき問題を人間が明確に設定した上で、問題解決に必要な有限の事象群をフレームで囲い、AIがそれらを選び出せるようにしてやることが必要だ。

具体的には、「フレームをはめることができる限定された環境・空間」の下で、AIに特定のタスクを明確なルールに基づいて実行させる、ということである。そうすれば、複雑な現実世界の中に「限定された閉じた世界(環境)」を人為的に作ることができ、このような環境下では、AIは想定外の事象に直面することもなく、フレーム問題に対処する必要がなくなるのだ。人間からすれば、AIのために閉じた環境を作ってやることにより、AIの社会実装の難度を下げることにつながる、と言える。

実際、人間が設定した限定された閉じた環境下で、AIやロボットの社会実装・実用化が進展している。例えば、チェス・将棋・囲碁の専用AI、検索サービスやECサイトでユーザーの検索や購買の履歴傾向などを分析してユーザーに合った検索結果の導出や商品の推奨を行うレコメンドエンジン、家庭用ロボット掃除機、スマートフォンの音声アシスタント機能用AI、スマートスピーカー(AIスピーカー)、工場の生産ラインにおける組立作業用AI搭載ロボット、工場の製品品質検査工程における製品の外観(欠陥)検査用AI、電子材料など機能性材料の設計・開発工程においてビッグデータやAIの活用を取り入れた最適な材料設計のための新たな方法論であるマテリアルズ・インフォマティクス、大型物流センターにおける自動搬送用AI搭載ロボット、防犯・監視・入出国管理などに用いる顔認証AIシステム、医療画像診断支援用AI、などが挙げられる。

このように現在のAIは、閉じた環境さえ与えられれば、ボードゲームから生活、製造業(研究開発・生産・品質検査)、物流業、セキュリティ、医療などに至るまで、幅広い多様な分野で大活躍しており、社会のための不可欠な存在となっている。
 

3――AIのフレーム問題から見た自動運転の技術的課題の考察

3――AIのフレーム問題から見た自動運転の技術的課題の考察

1大変革の時代に入る自動車産業と自動運転
今、自動車産業は「100年に一度の大変革の時代」に入っているとされ、この大変革の時代のキードライバーは「CASE」である、と言われる。CASEは、「Connected(インターネットへの常時接続)」「Autonomous(自動運転)」「Shared&service(シェアリング・サービス化)」「Electric(電動化)」を指し、C・A・Eはテクノロジー領域、Sはサービス領域に分類でき、4つの要素は互いに密接に関連している。また、この4つの要素が進化・融合すれば、大変革時代の自動車産業におけるもう1つのキーワードである「MaaS(Mobility as a Service)」3と呼ばれる新たなモビリティサービスに、カーシェアリングやタクシー・バスなどとして自動車が組み込まれやすくなる、と考えられる。

CASEの4つの要素の中でも、自動運転は、既存の自動車関連メーカー(完成車、部品)に加え、巨大デジタル・プラットフォーマーやライドシェア(配車)サービスの世界大手などの異業種のプレーヤーも交えて開発競争にしのぎを削る、大変革時代の象徴的領域と言える。

筆者は、「AI・IoTの利活用の在り方」ニッセイ基礎研究所『基礎研レポート』2019年3月29日にて、「自動運転技術では、心臓部のAIの能力強化のために、公道や専用のテストコースでの実走行試験やサイバー空間でのシミュレーションから取得される、膨大な走行映像データをディープラーニングによりAIに学習させる必要があるため、現時点ではこの画像データの収集・蓄積自体も、極めて重要な競争領域とみなされている」と指摘した。

自動運転は5段階のレベルが規定されているが、人間の操作が介在しないレベル4以降を「完全自動運転」と呼ぶ(図表1)。レベル4はエリアや時間などの限定条件付きで、レベル5は限定条件なしで、自動運転システムがすべての運転タスクを行うものだ。レベル2まではドライバーへの「運転支援」の位置付けであり、レベル3以降が自動運転の段階となる。レベル3は、限定条件下でシステムがすべての運転操作を行うが、緊急時などシステムからの要請があれば人間が操作を引き継ぐ必要がある段階を指す。

米国や中国など海外先進地域では、既に完全自動運転の実走行試験が行われている一方、実用化(市販)の段階はレベル2にとどまり、いわゆる自動運転の段階は実現できていない。因みに、「独アウディは、2017年に(※世界で初めて)レベル3の技術を市販車に搭載したが、世界の法整備が追いつかず機能を抑えて販売している」4という。
図表1 自動運転レベルの定義の概要
 
3 政府高度情報通信ネットワーク社会推進戦略本部「官民 ITS 構想・ロードマップ2019」において、MaaSとは、「出発地から目的地まで、利用者にとっての最適経路を提示するとともに、複数の交通手段やその他のサービスを含め、一括して提供するサービス」と定義されている。「複数の交通モーダルを統合し、一元的に検索・予約・決済が可能な」サービスとされる。
4 日本経済新聞 電子版2019年7月4日「ホンダ、『レベル3』を来年実現 高速渋滞時に」より引用。ただし、(※ )は筆者による注記。
2AIのフレーム問題の影響が大きい自動運転の社会実装の難しさ
現実社会の複雑な環境下で用いられる自動運転技術では、基本的にAIのフレーム問題の影響は非常に大きいと考えられ、自動運転の実用化は、AIの社会実装における最大のチャレンジである、と言っても過言ではない。

(1) 自動運転システムの誤認識・誤作動の事例
複雑な道路・走行環境で起こり得る、無数の想定外の事象が、自動運転システムの誤認識・誤作動を誘発する可能性もあろう。

例えば、経済産業省・国土交通省は、ラストマイルモビリティ5として国立研究開発法人産業技術総合研究所が受託開発した、レベル4相当の技術を搭載した小型電動カートの無人自動走行(遠隔監視・操作)の実証実験を石川県輪島市の市街地一般公道で2017年12月に行ったが、「課題も浮き彫りとなった。理由の1つが予想外の積雪だ。コース上に雪が残り、車載センサーの誤作動を誘発。雪を障害物と認識し、実験車両が停止してしまうことがあった」6という。

また、スイス有数のワインの産地であるヴァレー州シオン市の旧市街では、2016年から自動運転シャトルバスが試験走行しているが、「通りの鉄柵から垂れ下がっていた植物の枝や葉が風で揺れると障害物だと認識し、バスはプログラムに従って減速または完全停止する」7という。

直近では愛知県豊田市で、名古屋大学が開発したゴルフカートをベースとした低速自動運転車両が、2019年8月に同大学や市などが共同で実施予定だった中心市街地(市道)での実証実験に向けて、同月試験走行していたが、後ろから来た一般車両が実験車両の右側を追い越そうとした際、実験車両が右側に寄ったことにより接触する事故を起こした。システムが自車位置・方向を誤検知したことが、事故の推定原因だという8。名古屋大学内に設置された事故検証委員会にて今回の事故の原因が究明され、再発防止策が装備されるまで、公道実証実験は停止するという。
 
5 鉄道・バスなどの基幹交通システムと自宅や目的地との間、地域内といった短中距離を補完する次世代交通システムを指す(産業技術総合研究所ニュース2017年12月13日「ラストマイル自動走行の実証評価(輪島市)を開始」)。「端末交通システム」とも言う。
6 日刊工業新聞ニュースイッチ2018年5月6日「全国で実証進む自動運転、実用化へ立ちはだかる壁」より引用。
7 ビッグイシュー・オンライン2018年10月22日「自動運転車の実用化に向けた技術的・倫理的・社会的課題とは」より引用。このシャトルバスには、「安全パイロット」と呼ばれるスタッフが同乗してあらゆる状況を監視し、必要に応じて介入するのだという。従って、定義上はレベル3に分類されるとみられる。
8 豊田市・報道発表資料2019年8月29日「低速自動運転車両の事故の推定原因について」を基に記述した。
(2) 市街地・都市部の一般道がフレーム問題の影響を最も受けやすい
上記はいずれも市街地の一般道での事例だが、まさに市街地や都市部の一般道が最も複雑な道路・走行環境であり、フレーム問題の影響を最も受けやすい、と言える。さらに、自動運転車と従来の手動運転車が道路上で混在する状況が加わると、その環境は複雑化に一層拍車がかかる、と考えられる。ドライバーや歩行者が行う手での合図やアイコンタクト、警察官が道路上で行う指示、自転車やオートバイの挙動、他のドライバーの自動運転車に対する反応などを含め、人間の交通・運転マナーや交通ルールに関わる判断・反応・行動は無数にある上に、まちまちで不規則になりがちであるため、自動運転車がそれらすべてに対応し切れないということは、まさにフレーム問題の影響を大きく受けることを示している、と言えよう。

今後自動運転技術が社会実装されて本格的に普及し、常に交通ルールを厳格に順守する自動運転車だけが走行する時代が到来すれば、少なくとも車車間の複雑性は劇的に緩和され、交通事故の大幅削減などに貢献するだろうが、そのような状況に至るまでには、まだまだ時間がかかるとみられる。米国で自動運転技術やAI 技術などの研究開発を行うトヨタ自動車の子会社Toyota Research Institute(TRI)の CEO(最高経営責任者)である、ギル・プラット氏は、「例えば米国で、レベル4以上の自動運転車が街中を走るクルマの多くを占めるには、数十年もの時間がかかる」9と米ラスベガスで毎年開催される2017 Consumer Electronics Show (CES2017)で述べている。
 
9 トヨタ自動車HP2017年1月5日「トヨタ・リサーチ・インスティテュート ギル・プラットCEOスピーチ参考抄訳(CESプレスカンファレンス)」より引用。
(3) 無限の交通シーンの再現・学習=完璧なアルゴリズムの作成の難しさ
筆者は、「AI・IoTの利活用の在り方」ニッセイ基礎研究所『基礎研レポート』2019年3月29日にて、「自動運転技術の安全性を極限まで高めるためには、実走行試験に加えサイバー空間でのシミュレーションも駆使して、地域ごと、専用道・一般道ごとに想定され得る交通シーンを網羅的にAI に学習させる必要があり、そのためには、気の遠くなるような無限に近い地道な開発作業が必要となるだろう」と指摘した。このような完全なアルゴリズムに少しでも近づけるべく、想定外の事象を可能な限り一つ一つつぶすために、自動車メーカーや巨大デジタル・プラットフォーマーなど自動運転の開発に取り組む企業は、膨大な走行データの収集に日夜しのぎを削って取り組んでおり、このこと自体は社会的価値の高い企業努力である、と評価できる。

しかし、筆者が同稿にて指摘したように、無限に近い交通シーンを再現してAIに学ばせることは、フレーム問題などに起因して現実的には難しい。このことは、想定外の事象を完全排除できる、すなわち事故率がゼロとなるような、完璧なアルゴリズムの作成が難しいことを意味する。自動運転による事故率は勿論、手動運転によるそれを下回ることが望まれるが、自動運転によっても事故率がゼロにならないなら、自動運転による事故率がどれくらいの水準であれば安全とみなすのか、線を引く必要がある。このため、「世界の監督官庁にとって自動運転の安全性評価は共通の課題だ。『何をもって安全とするのか』が未だ確立されておらず、各国でも議論が始まったばかりだ」10

前出のギル・プラット氏は、このような論点を含めて、技術的・社会的側面から見た自動運転の社会実装の難しさについて、CESで非常に真摯な姿勢で語っている。CES2017でのスピーチでは「歴史的に、人々は、機械の不具合によるケガや死亡を一切許容しないということが示されています。そして、自動運転車の性能を左右する人工知能システムは、現時点では不完全であることが避けられないことを私たちは理解しています。では、どのくらいの安全が必要十分な安全なのか。非常に近い将来、この質問への答えが必要になります。私たちはまだ確かな答えを持ち合わせていません」「総合的には、試作段階の私たちの自動運転は様々な状況に対処できます。しかし、機械の対応能力を超える状況は未だに数多くあります。レベル5の自動運転で必要になる完全性を実現するためには、何年もの機械学習や何マイルものシミュレーション・実走行によるテストが必要になるでしょう」11と語り、さらに直近のCES2019 では「これ(※レベル5 の自動運転)はすばらしい目標ですし、私たちもいつかは達成できるかもしれません。しかしながら、こうした自動運転システムが抱える、技術的・社会学的な難しさを甘く考えてはいけないと思っています。たとえば、絶え間なく変わる環境において、人間のドライバーと同等の、もしくはそれより優れた運転をするうえで必要な社会順応性をどのようにシステムに教えるのか。いつ歩行者が道を渡るか、もしくは交差点の信号が青なのに、警察官が『止まれ』のサインを出した際に警察官が指示していることをどのようにシステムに教えるのか。それに、自動運転車両でも発生が避けられない事故や死傷を社会が受け入れるには、相当な長い時間がかかることも気にとめなくてはなりません。自動車業界においてもIT 業界においても、いま述べたような質問に完全に答えられる人はいないと思います」12と語った。

同氏のこれらのコメントは、AIに複雑な交通シーンを網羅的に覚え込ませ、ひいては完全自動運転の社会実装を果たすことが、フレーム問題などのために、いかに難しいかを明確に示唆している、と思われる。
 
10 日刊工業新聞2019年2月27日「自動運転、乗り越えるべき壁(上)レアケースの収集」より引用。
11 注9と同様。
12 トヨタ自動車ホームページ2019年1月8日「CES 2019 トヨタ・リサーチ・インスティテュート(TRI)ギル・プラットCEOスピーチ参考抄訳」より引用。ただし、(※ )は筆者による注記。
Xでシェアする Facebookでシェアする

社会研究部   上席研究員

百嶋 徹 (ひゃくしま とおる)

研究・専門分野
企業経営、産業競争力、産業政策、イノベーション、企業不動産(CRE)、オフィス戦略、AI・IOT・自動運転、スマートシティ、CSR・ESG経営

経歴
  • 【職歴】
     1985年 株式会社野村総合研究所入社
     1995年 野村アセットマネジメント株式会社出向
     1998年 ニッセイ基礎研究所入社 産業調査部
     2001年 社会研究部門
     2013年7月より現職
     ・明治大学経営学部 特別招聘教授(2014年度~2016年度)
     
    【加入団体等】
     ・日本証券アナリスト協会 検定会員
     ・(財)産業研究所・企業経営研究会委員(2007年)
     ・麗澤大学企業倫理研究センター・企業不動産研究会委員(2007年)
     ・国土交通省・合理的なCRE戦略の推進に関する研究会(CRE研究会) ワーキンググループ委員(2007年)
     ・公益社団法人日本ファシリティマネジメント協会CREマネジメント研究部会委員(2013年~)

    【受賞】
     ・日経金融新聞(現・日経ヴェリタス)及びInstitutional Investor誌 アナリストランキング 素材産業部門 第1位
      (1994年発表)
     ・第1回 日本ファシリティマネジメント大賞 奨励賞受賞(単行本『CRE(企業不動産)戦略と企業経営』)

公式SNSアカウント

新着レポートを随時お届け!
日々の情報収集にぜひご活用ください。

週間アクセスランキング

レポート紹介

【自動運転とAIのフレーム問題-AIの社会実装へのインプリケーション】【シンクタンク】ニッセイ基礎研究所は、保険・年金・社会保障、経済・金融・不動産、暮らし・高齢社会、経営・ビジネスなどの各専門領域の研究員を抱え、様々な情報提供を行っています。

自動運転とAIのフレーム問題-AIの社会実装へのインプリケーションのレポート Topへ