AIの時代、どこから先を信じるか～ブラックボックスにどう対処する？

2022年11月21日

（篠原 拓也） 保険計理

関連カテゴリ

■要旨
 
  1. いま、AI (人工知能) の開発が急速に進んでいる。人間の理解が及ばないことが一般的となっている。また、AIの出す答えが道義的に正しいとは限らない。人間のAIへの接し方が問われる。
     
  2. AIが登場する前から、人々は機械や技術の核心部分をよく理解せずに、信じて使用してきた。これは、ブラックボックスといえる。こうしたブラックボックスは、世の中にどんどん広がっている。
     
  3. コンピューターシステムでは、正しく動作するかどうかの確認として、「ブラックボックステスト」が行われる。インプットとアウトプットをもとに、テストをするものだ。短時間で実行できる利点があるが、このテストを重ねても、システムが絶対に正しいとは言い切れない。
     
  4. これと対照的に、システムの中身を確認する「ホワイトボックステスト」もある。システム開発者がその内容を熟知して網羅的に行うため、基礎知識の習得、テストの手間、一定の時間が必要となる。特に、複雑なシステムをテストする場合には、こうした負担が大きくなる。
     
  5. 実務上は、両者を組み合わせた「グレーボックステスト」が行われる。システムに精通した人が行うが、インプットデータが網羅的であることにはこだわらない。現実には、さまざまな場面で、このテストが行われている。どのようなグレーボックステストを行うか、その中身が問題となる。
     
  6. AIの時代には、従来以上にブラックボックスとうまく付き合っていかなくてはならない。AIの進化とともに、人間の側も、AIを上手に信じる感性を研ぎ澄ましていく必要がある。


■目次

1――はじめに
2――「ある程度から先は、AIの出した答えを信じるしかない」
3――人間の側のAIへの接し方が問われる
4――ブラックボックスはすでに身近にある
5――「ブラックボックステスト」には限界がある
6――「ホワイトボックステスト」は負担が大きい
7――「グレーボックステスト」はテストの中身が重要

【次ページ】はじめに

1 2

保険研究部   主席研究員 兼 気候変動リサーチセンター チーフ気候変動アナリスト 兼 ヘルスケアリサーチセンター 主席研究員

篠原 拓也（しのはら たくや）

研究領域：保険

研究・専門分野
保険商品・計理、共済計理人・コンサルティング業務

レポートについてお問い合わせ
(取材・講演依頼)

経歴 ＋ －

【職歴】
　1992年　日本生命保険相互会社入社
　2014年　ニッセイ基礎研究所へ

【加入団体等】
　・日本アクチュアリー会　正会員

関連レポート

レポートについてお問い合わせ
(取材・講演依頼)

関連カテゴリ・レポート

ニッセイ景況アンケート

保険会社経営

ＩＴ・ベンチャービジネス

IoT

生成AI・AI