自動運転とＡＩのフレーム問題－ＡＩの社会実装へのインプリケーション　|ニッセイ基礎研究所

4――おわりに～AIの社会実装の在り方へのインプリケーション

本稿では、AIの社会実装における最大のチャレンジと考えられる、自動運転を例として、AI研究の最大の難問と言われる、フレーム問題について考えてきた。

自動運転に関わる考察から得られた、AIの社会実装の在り方へのインプリケーションは、「フレーム問題から逃れられない現在の特化型AIは、不完全で使えない」ということではなく、「人間は、AIの過小評価や過大評価・過信を避け、現状のAIの実力・強味や限界を十分に理解した上で、フレーム問題を回避しAIを上手に使いこなす工夫を凝らし、社会課題解決のツールとして、積極的に利活用すべきである」ということだ。

筆者は、企業によるAI利活用の「目的（アウトカム）」は、新技術・新事業の創出を中心とする「プロダクト・イノベーション」や業務プロセスの効率化・改革を中心とする「プロセス・イノベーション」につなげることであり、さらにこのイノベーションを通じて社会を良くすること（社会課題を解決すること）、すなわち「社会的価値（social value）」³⁹を創出することは、AI利活用の「ソーシャルインパクト（社会全体への波及効果）」と捉えるべきだ、と考えている⁴⁰。AIの社会実装を、最終的には人々のライフスタイルやワークスタイルを豊かにし、人々の快適性・利便性や心身の健康・活力、安全・安心など社会生活の質、すなわちQOL（Quality Of Life）を豊かにすることに貢献させるべきなのだ。

複数のタスクをこなせない現在の特化型AIは、フレーム問題を回避すべく、閉じた限定的シーンで特定のタスクを担わせると、非常に大きな成果をもたらす。逆に、想定外の事象が無限に起こり得る複雑な現実世界では、フレーム問題により力を発揮できなくなる可能性が高まってしまう。

AIの開発・実装においては、AIに関わる科学者・開発者や経営者など人間が、特化型AIの性能を最大限に引き出すべく、AIが解くべき問題およびAIを利活用する環境・領域をしっかりと設定して「フレームをはめる」ことこそが最も重要である、と言っても過言ではない。
本稿で示したAIの社会実装の在り方へのインプリケーションを踏まえて、AIの性能を最大限に引き出す利活用への積極的な取り組みが、今後本格化することを期待したい。

³⁹ 企業の存在意義や社会的責任を社会的価値の創出と捉える考え方については、拙稿「CSR（企業の社会的責任）再考」『ニッセイ基礎研REPORT』2009年12月号、同「震災復興で問われるCSR（企業の社会的責任）」ニッセイ基礎研究所『研究員の眼』2011年5月13日、同｢CSRとCRE戦略｣ニッセイ基礎研究所『基礎研レポート』2015年3月31日、同「最近の企業不祥事を考える」ニッセイ基礎研究所『研究員の眼』2015年12月28日、同「イノベーションの社会的重要性」ニッセイ基礎研究所『研究員の眼』2018年8月15日、同「企業不動産（CRE）の意味合い」ニッセイ基礎研究所『研究員の眼』2019年3月4日、同「社会的ミッション起点のCSR経営のすすめ」ニッセイ基礎研究所『基礎研レポート』2019年3月25日を参照されたい。
⁴⁰ AI利活用のアウトカムやソーシャルインパクトに関わる筆者のこのような考え方については、拙稿「AIの産業・社会利用に向けて」ニッセイ基礎研究所『研究員の眼』2018年3月29日、同「イノベーションの社会的重要性」ニッセイ基礎研究所『研究員の眼』2018年8月15日、同「AI･IoTの利活用の在り方」ニッセイ基礎研究所『基礎研レポート』2019年3月29日、同「AI･IoTの利活用の在り方」『ニッセイ基礎研所報』2019年Vol.63、2019年6月を参照されたい。

＜補論＞AIのフレーム問題について

1｜AIのフレーム問題の定義
AIのフレーム問題は、AI研究者のジョン・マッカーシー（J.McCarthy）とパトリック・ヘイズ（P.J.Hayes）によって、1969年に提唱されたものである。「McCarthyらが最初に示した例は、（電話を所有している）人間Pが電話帳で人間Qの電話番号を調べ、電話をかけて、会話をする、という状況設定であった。計算機上に古典的な論理でこのような行為を記述しようとすると、『ある人が電話を所有していれば、その人が電話帳で誰かの電話番号を調べた後でも、まだその人は電話を所有している』というような、人間にとっては極めて自明な条件を列挙してやらねばならない。このような条件をいちいち記述していてはその量が膨大になってしまって手に負えなくなる。これがフレーム問題である。より一般的に言えば、彼らのオリジナルな定義では、『ある行為を論理で計算機上に記述しようとしたとき、その行為によって変化しない事象をいちいち変化しないと明示的に記述するのは煩わしい』ということがフレーム問題である。ここで『手に負えない』とか『煩わしい』とあるのは、情報処理における計算の量が空間的に多すぎるということである。比喩を用いて説明するならば、ある計算問題を黒板を使って解こうとするときに、解くのにとてつもなく広い黒板が必要になって困る、ということである」（松原（1991））。

「哲学者のダニエル・デネット（※D.C.Dennett）は、あらゆる状況を考えすぎて時間内に問題を解決できないロボットのたとえ話を通して、この問題（※フレーム問題）を易しく説明している」⁴¹（浅川・江間・工藤・巣籠・瀬谷・松井・松尾（2018））。デネットが84年の論文⁴²で示した非常に有名な事例は、「洞窟の中にロボット用の予備のバッテリーがあるが、その上に時限爆弾が仕掛けてある状況の中で、AI搭載ロボットが洞窟の中からバッテリーを取って来るように指示された」というものだ。

フレーム問題のオリジナルの定義は、前述の通りだが、その後の研究者の間で、フレーム問題についての解釈・捉え方にはコンセンサスはない、との見方もある。例えば、森岡（2019）は、「『フレーム問題』とはいったいどういう問題なのかについて、専門家のあいだに意見の一致があるとは言えない。しかし大きく捉えれば、人間なら誰でも知っている『暗黙知』をいかにして人工知能に覚えさせることができるのか、という点にかかわる難問だとみなしてよいだろう」と述べている。

一方、筆者は、フレーム問題を「世の中で起こり得るすべての事象から、今行うべき分析・判断に必要な情報のみを『枠（フレーム）』で囲うように、選び出すことがAIには非常に難しいという問題」と定義した。筆者がこの定義を作成する上で参考にした先行研究は、「フレーム問題とは、人工知能が問題解決を行なおうとするときに、何が自身にとって重要なファクターで、何が自身にとって無視してもよいファクターであるのかを、自分自身で自律的に判断することができないという問題である。これは人工知能型ロボットを現実世界で実際に動かそうとするときに直面してしまう難問である」（森岡（2019））、AIには、「『今しようとしていることに関係のあることがらだけを選び出すことが、実は非常に難しい』という問題をフレーム問題という」（浅川ら（2018））、「フレーム問題の広い意味⁴³とは、『膨大な情報の中から（記述するにしろ処理するにしろ）必要なものをどうしたらただちに取り出せるか』、ということである」（松原（1991））、などである。

また、筆者は、「フレーム問題には、『AIのプログラムの中に、想定外の事象を含めて、世の中で無限に起こり得るすべての事象を原理的に記述し切れない（＝AIに覚え込ませることはできない）』という、構造的な問題も含まれる」と述べた。「考慮すべき事象が有限でもそれが膨大な量であれば、AIが持つ有限の計算リソースでは対応し切れない」という視点に加え、「考慮すべき事象が無限にあるために、そもそもすべての事象を考慮し切れない」というこの視点では、先行研究として、「フレーム問題には、『無理すればなんとか記述しきれるけれども、その量が多すぎる』という側面と、『そもそも原理的に記述しきれない』という側面とが存在する。最初の頃はもっぱら前者だけが議論になっていたが、後になって後者も議論されるようになった」（松原（1991））、「これ（※フレーム問題）は、コンピュータのプログラムの中に、世の中で起こりうる現象をすべてあらかじめ記述して準備しておくことはできないという構造的な問題として知られている。また、膨大な記述が仮にできたとしても、相互の関係性を多重に予測することにより、無限の場面を想定しなければならなくなり、結果的に自車は身動きが取れなくなってしまう」⁴⁴（高橋（2018））、などを参考とした。

⁴¹ （※　）は筆者による注記。
⁴² D・デネット、信原幸弘（訳）「コグニティブ・ホイール－人工知能におけるフレーム問題－」青土社『現代思想』1987年15巻5号、 Daniel C. Dennett“Cognitive Wheels: The Frame Problem of AI.”In Christopher Hookway, ed., Minds, Machines and Evolution: Philosophical Studies, Cambridge: Cambridge University Press (1984)
⁴³ 次節の注47にて言及される「一般化フレーム問題」を指す。
⁴⁴ （※　）は筆者による注記。この文献は自動運転に関わる論文であるため、「自車は」となっているが、これは「AIを搭載した自動運転車」と言い換えてもよいだろう。

2｜AIのフレーム問題は未解決
フレーム問題はAI研究の古典だが、未だに未解決である、とされる。例えば、森岡（2019）は、「ボーデン⁴⁵も2016年の段階で『悪名高いフレーム問題が解決されたとするのは非常にミスリーディングである』と書いており、フレーム問題は未解決であるというのが現在でも少なくない専門家の意見だと考えられる」と述べている。また、浅川ら（2018）は、フレーム問題について「未だに本質的な解決はされていない」と述べている。

松原（1991）は、「フレーム問題は人工知能で提唱された概念で、一言で言えば『有限の情報処理能力しか持たない推論主体にとって膨大な情報を扱いきれるか』というものである。フレーム問題は情報の計算量に関する問題であり、有限の情報処理能力しか持たない推論主体であるところの人間にも計算機にもフレーム問題は解けない」と指摘するとともに、「計算量には記述（空間）の量と並んで処理（時間）の量がある。McCarthyらのいうフレーム問題は、そのうちの記述の量を減らすことのみにもっぱら注目していた。処理の量も込みにして考えれば、フレーム公理⁴⁶による工夫は『記述＋処理』の全体としての計算量の改善には結び付いていないのである。筆者はこのことを明らかにした上で、フレーム問題の定義を記述のみでなく処理込みにまで広げるべきだという立場を提唱した⁴⁷。そのように広くフレーム問題をとらえると、どう工夫をしようと計算機には原理的に解決できないことになる。フレーム問題を広くとらえ直すことによって、もともとは計算機固有と考えられていた問題が、実は有限の情報処理能力しか持たない推論主体に共通する問題であることがわかってきた」と述べている。

⁴⁵ マーガレット・ボーデン（M. A. Boden）は、AIや認知科学の研究者。
⁴⁶ 「特に変化すると断わらない限りは変化しないと見なす」という仮定を指す。
⁴⁷ 松原は、提唱したこの考え方をMcCarthyらのオリジナルのフレーム問題と区別して「一般化フレーム問題」と呼んでいる。

3｜人間とフレーム問題
「フレーム問題は情報の計算量に関する問題であり、有限の情報処理能力しか持たない推論主体であるところの人間にも計算機にもフレーム問題は解けない」（松原（1991））。

人間も想定外の事象に遭遇して戸惑うことはよくあることだが、個人差は勿論あるものの、人間は試行錯誤を繰り返して、それに対応しようとする。AIと同様に人間にも、フレーム問題は本質的に解決できないにもかかわらず、想定外の事象が無限に起こり得る極めて複雑な現実世界の中で日常生活を営む人間が、フレーム問題に何とか対応し回避できているように見えるのはなぜか。松原（1991）は、「このことを筆者は『人間はフレーム問題を疑似解決している』という言い方をする。常に情報処理の計算量の爆発に悩まされている（現在の）計算機とは大違いである。人間はふつう有限の大きさの枠を情報に対して囲っている。ほとんどの推論はこの枠の中の情報を参照することで済むようになっている。枠の中だけを情報処理の対象としていればフレーム問題を解決しなければならないような事態には陥らない。それでも場合によっては枠の中の情報だけではうまくいかないことがある。もしも枠の外の情報を参照することになればフレーム問題に直面し、計算量の爆発に苦しんでしまう。枠がかなりうまくできていることが、人間がめったにフレーム問題に直面しないですむ理由である。枠の中に求める情報が存在しないときは、枠の中から最もましな情報を引き出してその代わりとするか、枠の外に出てフレーム問題に悩みながら求める情報を探すか、のいずれかを選択することになる。人間は一度囲んでしまった枠の外を探すことはめったにないように思える。枠の中から無理やり引き出した情報が間違っているというのが、人間がときどき誤りを犯すことの原因のひとつである。人間は、そのような犠牲を払った代償として、日常はフレーム問題に悩まずにすむという柔軟性・経済性を得ていることになる」と述べている。

つまり、人間は、一定の「フレーム」の中で推論することで、フレーム問題を回避しているのである。この点は、AIの社会実装にも非常に重要なヒントとなる。前述の通り、筆者は「AIが解くべき問題およびAIを利活用する環境・領域をしっかりと設定して『フレームをはめる』人間の役割が、最も重要である」と指摘した。

＜参考文献＞

（※弊社媒体の筆者の論考は、弊社ホームページの筆者ページ｢百嶋徹のレポート｣を参照されたい）

浅川伸一・江間有沙・工藤郁子・巣籠悠輔・瀬谷啓介・松井孝之・松尾豊『深層学習教科書ディープラーニング G検定（ジェネラリスト）公式テキスト』（日本ディープラーニング協会監修）翔泳社、2018年
経済産業省製造産業局「自動運転を巡る経済産業省の取組」2018年2月16日
高度情報通信ネットワーク社会推進戦略本部・官民データ活用推進戦略会議「官民ITS構想・ロードマップ2019」2019年6月7日
国土交通省自動車局「自動運転車の安全技術ガイドライン」2018年9月
産業技術総合研究所ニュース2017年12月13日「ラストマイル自動走行の実証評価（輪島市）を開始」
高橋宏「安全・安心に利用できる自動運転車両の課題」『湘南工科大学紀要』Vol. 52、No. 1、2018年
D・デネット、信原幸弘（訳）「コグニティブ・ホイール－人工知能におけるフレーム問題－」青土社『現代思想』1987年15巻5号、 Daniel C. Dennett“Cognitive Wheels: The Frame Problem of AI.”In Christopher Hookway, ed., Minds, Machines and Evolution: Philosophical Studies, Cambridge: Cambridge University Press (1984)
トヨタイムズ2019年8月2日「AI界のカリスマ、トヨタの自動運転を語る」
豊田市・報道発表資料2019年8月29日「低速自動運転車両の事故の推定原因について」
トヨタ自動車HP2017年1月5日「トヨタ・リサーチ・インスティテュートギル・プラットCEOスピーチ参考抄訳（CESプレスカンファレンス）」
同2019年1月8日「CES 2019 トヨタ・リサーチ・インスティテュート（TRI）ギル・プラットCEOスピーチ参考抄訳」
内閣官房IT総合戦略室｢自動運転に係る制度整備大綱（概要）｣2018年4月17日
内閣官房日本経済再生総合事務局｢国の実施する公道実証プロジェクトの方向性と共有すべきデータについて｣自動走行に係る官民協議会（第2回）2017年9月28日
内閣府ホームページ「ムーンショット型研究開発制度」
日刊工業新聞2019年2月27日「自動運転、乗り越えるべき壁（上）レアケースの収集」
日刊工業新聞ニュースイッチ2018年5月6日「全国で実証進む自動運転、実用化へ立ちはだかる壁」
日本経済新聞電子版2019年7月4日「ホンダ、『レベル3』を来年実現　高速渋滞時に」
ビッグイシュー・オンライン2018年10月22日「自動運転車の実用化に向けた技術的・倫理的・社会的課題とは」
百嶋徹「CSR（企業の社会的責任）再考」『ニッセイ基礎研REPORT』2009年12月号
同「震災復興で問われるCSR（企業の社会的責任）」ニッセイ基礎研究所『研究員の眼』2011年5月13日
同「CSRとCRE戦略｣ニッセイ基礎研究所『基礎研レポート』2015年3月31日
同「最近の企業不祥事を考える」ニッセイ基礎研究所『研究員の眼』2015年12月28日
同「製造業を支える高度部材産業の国際競争力強化に向けて（後編）｣ニッセイ基礎研究所『基礎研レポート』2017年3月31日
同「AIの産業・社会利用に向けて」ニッセイ基礎研究所『研究員の眼』2018年3月29日
同「イノベーションの社会的重要性」ニッセイ基礎研究所『研究員の眼』2018年8月15日
同「第4章イノベーション促進の触媒機能を果たすソーシャル・キャピタル」『ソーシャル・キャピタルと経済─効率性と「きずな」の接点を探る─』（大守隆編著）ミネルヴァ書房、2018年
同「企業不動産（CRE）の意味合い」ニッセイ基礎研究所『研究員の眼』2019年3月4日
同「社会的ミッション起点のCSR経営のすすめ」ニッセイ基礎研究所『基礎研レポート』2019年3月25日
同「AI・IoTの利活用の在り方」ニッセイ基礎研究所『基礎研レポート』2019年3月29日
同「寄稿ハンドブック発刊によせて／地域活性化に向けた不動産の利活用」国土交通省土地・建設産業局『企業による不動産の利活用ハンドブック』2019年5月24日
同「AI・IoTの利活用の在り方」『ニッセイ基礎研所報』2019年Vol.63、2019年6月
同「地域活性化に向けた不動産の利活用─国土交通省『企業による不動産の利活用ハンドブック』へ寄稿」ニッセイ基礎研究所『基礎研レポート』2019年7月11日
同「エコノミストリポート／カナダ、中国でスマートシティー　グーグル系も街づくりに本格参入　データ連携基盤の構築がカギ」毎日新聞出版『週刊エコノミスト』2019年10月29日号
松原仁「暗黙知におけるフレーム問題」日本科学哲学会『科学哲学』1991年24巻
森岡正博「人工知能と現代哲学：ハイデガー・ヨーナス・粘菌」日本哲学会『哲学』第70 号、2019 年4 月
WIRED 2019年4月11日「完全自動運転の到来は、まだ先になる？フォードCEOの発言に見る実現までの長い道のり」
同 2019年6月10日「自動運転は、いかに実現するのか：現状分析から見えた『6つの分野』での導入シナリオ」