2022年11月21日

AIの時代、どこから先を信じるか~ブラックボックスにどう対処する?

保険研究部 主席研究員 兼 気候変動リサーチセンター チーフ気候変動アナリスト 兼 ヘルスケアリサーチセンター 主席研究員 篠原 拓也

文字サイズ

■要旨
 
  1. いま、AI (人工知能) の開発が急速に進んでいる。人間の理解が及ばないことが一般的となっている。また、AIの出す答えが道義的に正しいとは限らない。人間のAIへの接し方が問われる。
     
  2. AIが登場する前から、人々は機械や技術の核心部分をよく理解せずに、信じて使用してきた。これは、ブラックボックスといえる。こうしたブラックボックスは、世の中にどんどん広がっている。
     
  3. コンピューターシステムでは、正しく動作するかどうかの確認として、「ブラックボックステスト」が行われる。インプットとアウトプットをもとに、テストをするものだ。短時間で実行できる利点があるが、このテストを重ねても、システムが絶対に正しいとは言い切れない。
     
  4. これと対照的に、システムの中身を確認する「ホワイトボックステスト」もある。システム開発者がその内容を熟知して網羅的に行うため、基礎知識の習得、テストの手間、一定の時間が必要となる。特に、複雑なシステムをテストする場合には、こうした負担が大きくなる。
     
  5. 実務上は、両者を組み合わせた「グレーボックステスト」が行われる。システムに精通した人が行うが、インプットデータが網羅的であることにはこだわらない。現実には、さまざまな場面で、このテストが行われている。どのようなグレーボックステストを行うか、その中身が問題となる。
     
  6. AIの時代には、従来以上にブラックボックスとうまく付き合っていかなくてはならない。AIの進化とともに、人間の側も、AIを上手に信じる感性を研ぎ澄ましていく必要がある。


■目次

1――はじめに
2――「ある程度から先は、AIの出した答えを信じるしかない」
3――人間の側のAIへの接し方が問われる
4――ブラックボックスはすでに身近にある
5――「ブラックボックステスト」には限界がある
6――「ホワイトボックステスト」は負担が大きい
7――「グレーボックステスト」はテストの中身が重要
Xでシェアする Facebookでシェアする

保険研究部   主席研究員 兼 気候変動リサーチセンター チーフ気候変動アナリスト 兼 ヘルスケアリサーチセンター 主席研究員

篠原 拓也 (しのはら たくや)

研究・専門分野
保険商品・計理、共済計理人・コンサルティング業務

公式SNSアカウント

新着レポートを随時お届け!
日々の情報収集にぜひご活用ください。

週間アクセスランキング

レポート紹介

【AIの時代、どこから先を信じるか~ブラックボックスにどう対処する?】【シンクタンク】ニッセイ基礎研究所は、保険・年金・社会保障、経済・金融・不動産、暮らし・高齢社会、経営・ビジネスなどの各専門領域の研究員を抱え、様々な情報提供を行っています。

AIの時代、どこから先を信じるか~ブラックボックスにどう対処する?のレポート Topへ