AIの時代、どこから先を信じるか～ブラックボックスにどう対処する？

保険研究部主席研究員兼気候変動リサーチセンターチーフ気候変動アナリスト兼ヘルスケアリサーチセンター主席研究員篠原拓也

■要旨

いま、AI (人工知能) の開発が急速に進んでいる。人間の理解が及ばないことが一般的となっている。また、AIの出す答えが道義的に正しいとは限らない。人間のAIへの接し方が問われる。
AIが登場する前から、人々は機械や技術の核心部分をよく理解せずに、信じて使用してきた。これは、ブラックボックスといえる。こうしたブラックボックスは、世の中にどんどん広がっている。
コンピューターシステムでは、正しく動作するかどうかの確認として、「ブラックボックステスト」が行われる。インプットとアウトプットをもとに、テストをするものだ。短時間で実行できる利点があるが、このテストを重ねても、システムが絶対に正しいとは言い切れない。
これと対照的に、システムの中身を確認する「ホワイトボックステスト」もある。システム開発者がその内容を熟知して網羅的に行うため、基礎知識の習得、テストの手間、一定の時間が必要となる。特に、複雑なシステムをテストする場合には、こうした負担が大きくなる。
実務上は、両者を組み合わせた「グレーボックステスト」が行われる。システムに精通した人が行うが、インプットデータが網羅的であることにはこだわらない。現実には、さまざまな場面で、このテストが行われている。どのようなグレーボックステストを行うか、その中身が問題となる。
AIの時代には、従来以上にブラックボックスとうまく付き合っていかなくてはならない。AIの進化とともに、人間の側も、AIを上手に信じる感性を研ぎ澄ましていく必要がある。

■目次

1――はじめに
2――「ある程度から先は、AIの出した答えを信じるしかない」
3――人間の側のAIへの接し方が問われる
4――ブラックボックスはすでに身近にある
5――「ブラックボックステスト」には限界がある
6――「ホワイトボックステスト」は負担が大きい
7――「グレーボックステスト」はテストの中身が重要

日付	タイトル	執筆者	媒体
2025/04/15	患者数:入院は減少、外来は増加－2023年の「患者調査」にコロナ禍の影響はどうあらわれたか?	篠原拓也	基礎研レター
2025/04/08	センチネル効果の活用－監視されていると行動が改善する?	篠原拓也	研究員の眼
2025/04/01	1, 2, 4, 8, 16, ○, …－思い込みには要注意！	篠原拓也	研究員の眼
2025/03/25	産業クラスターを通じた脱炭素化－クラスターは温室効果ガス排出削減の潜在力を有している	篠原拓也	基礎研レター

日付

タイトル

執筆者

媒体

2025/04/15

患者数:入院は減少、外来は増加－2023年の「患者調査」にコロナ禍の影響はどうあらわれたか?

篠原拓也

基礎研レター

2025/04/08

センチネル効果の活用－監視されていると行動が改善する?

篠原拓也

研究員の眼