1|
AIのフレーム問題の定義
AIのフレーム問題は、AI研究者のジョン・マッカーシー(J.McCarthy)とパトリック・ヘイズ(P.J.Hayes)によって、1969年に提唱されたものである。「McCarthyらが最初に示した例は、(電話を所有している)人間Pが電話帳で人間Qの電話番号を調べ、電話をかけて、会話をする、という状況設定であった。計算機上に古典的な論理でこのような行為を記述しようとすると、『ある人が電話を所有していれば、その人が電話帳で誰かの電話番号を調べた後でも、まだその人は電話を所有している』というような、人間にとっては極めて自明な条件を列挙してやらねばならない。このような条件をいちいち記述していてはその量が膨大になってしまって手に負えなくなる。これがフレーム問題である。より一般的に言えば、彼らのオリジナルな定義では、『ある行為を論理で計算機上に記述しようとしたとき、その行為によって変化しない事象をいちいち変化しないと明示的に記述するのは煩わしい』ということがフレーム問題である。ここで『手に負えない』とか『煩わしい』とあるのは、情報処理における計算の量が空間的に多すぎるということである。比喩を用いて説明するならば、ある計算問題を黒板を使って解こうとするときに、解くのにとてつもなく広い黒板が必要になって困る、ということである」(松原(1991))。
「哲学者のダニエル・デネット(※D.C.Dennett)は、あらゆる状況を考えすぎて時間内に問題を解決できないロボットのたとえ話を通して、この問題(※フレーム問題)を易しく説明している」
41(浅川・江間・工藤・巣籠・瀬谷・松井・松尾(2018))。デネットが84年の論文
42で示した非常に有名な事例は、「洞窟の中にロボット用の予備のバッテリーがあるが、その上に時限爆弾が仕掛けてある状況の中で、AI搭載ロボットが洞窟の中からバッテリーを取って来るように指示された」というものだ。
フレーム問題のオリジナルの定義は、前述の通りだが、その後の研究者の間で、フレーム問題についての解釈・捉え方にはコンセンサスはない、との見方もある。例えば、森岡(2019)は、「『フレーム問題』とはいったいどういう問題なのかについて、専門家のあいだに意見の一致があるとは言えない。しかし大きく捉えれば、人間なら誰でも知っている『暗黙知』をいかにして人工知能に覚えさせることができるのか、という点にかかわる難問だとみなしてよいだろう」と述べている。
一方、筆者は、フレーム問題を「世の中で起こり得るすべての事象から、今行うべき分析・判断に必要な情報のみを『枠(フレーム)』で囲うように、選び出すことがAIには非常に難しいという問題」と定義した。筆者がこの定義を作成する上で参考にした先行研究は、「フレーム問題とは、人工知能が問題解決を行なおうとするときに、何が自身にとって重要なファクターで、何が自身にとって無視してもよいファクターであるのかを、自分自身で自律的に判断することができないという問題である。これは人工知能型ロボットを現実世界で実際に動かそうとするときに直面してしまう難問である」(森岡(2019))、AIには、「『今しようとしていることに関係のあることがらだけを選び出すことが、実は非常に難しい』という問題をフレーム問題という」(浅川ら(2018))、「フレーム問題の広い意味
43とは、『膨大な情報の中から(記述するにしろ処理するにしろ)必要なものをどうしたらただちに取り出せるか』、ということである」(松原(1991))、などである。
また、筆者は、「フレーム問題には、『AIのプログラムの中に、想定外の事象を含めて、世の中で無限に起こり得るすべての事象を原理的に記述し切れない(=AIに覚え込ませることはできない)』という、構造的な問題も含まれる」と述べた。「考慮すべき事象が有限でもそれが膨大な量であれば、AIが持つ有限の計算リソースでは対応し切れない」という視点に加え、「考慮すべき事象が無限にあるために、そもそもすべての事象を考慮し切れない」というこの視点では、先行研究として、「フレーム問題には、『無理すればなんとか記述しきれるけれども、その量が多すぎる』という側面と、『そもそも原理的に記述しきれない』という側面とが存在する。最初の頃はもっぱら前者だけが議論になっていたが、後になって後者も議論されるようになった」(松原(1991))、「これ(※フレーム問題)は、コンピュータのプログラムの中に、世の中で起こりうる現象をすべてあらかじめ記述して準備しておくことはできないという構造的な問題として知られている。また、膨大な記述が仮にできたとしても、相互の関係性を多重に予測することにより、無限の場面を想定しなければならなくなり、結果的に自車は身動きが取れなくなってしまう」
44(高橋(2018))、などを参考とした。
41 (※ )は筆者による注記。
42 D・デネット、信原幸弘(訳)「コグニティブ・ホイール-人工知能におけるフレーム問題-」青土社『現代思想』1987年15巻5号、 Daniel C. Dennett"Cognitive Wheels: The Frame Problem of AI."In Christopher Hookway, ed., Minds, Machines and Evolution: Philosophical Studies, Cambridge: Cambridge University Press (1984)
43 次節の注47にて言及される「一般化フレーム問題」を指す。
44 (※ )は筆者による注記。この文献は自動運転に関わる論文であるため、「自車は」となっているが、これは「AIを搭載した自動運転車」と言い換えてもよいだろう。