- シンクタンクならニッセイ基礎研究所 >
- 政策提言 >
- IT・ベンチャービジネス >
- AIの時代、どこから先を信じるか~ブラックボックスにどう対処する?
AIの時代、どこから先を信じるか~ブラックボックスにどう対処する?

保険研究部 主席研究員 兼 気候変動リサーチセンター チーフ気候変動アナリスト 兼 ヘルスケアリサーチセンター 主席研究員 篠原 拓也
このレポートの関連カテゴリ
文字サイズ
- 小
- 中
- 大
- いま、AI (人工知能) の開発が急速に進んでいる。人間の理解が及ばないことが一般的となっている。また、AIの出す答えが道義的に正しいとは限らない。人間のAIへの接し方が問われる。
- AIが登場する前から、人々は機械や技術の核心部分をよく理解せずに、信じて使用してきた。これは、ブラックボックスといえる。こうしたブラックボックスは、世の中にどんどん広がっている。
- コンピューターシステムでは、正しく動作するかどうかの確認として、「ブラックボックステスト」が行われる。インプットとアウトプットをもとに、テストをするものだ。短時間で実行できる利点があるが、このテストを重ねても、システムが絶対に正しいとは言い切れない。
- これと対照的に、システムの中身を確認する「ホワイトボックステスト」もある。システム開発者がその内容を熟知して網羅的に行うため、基礎知識の習得、テストの手間、一定の時間が必要となる。特に、複雑なシステムをテストする場合には、こうした負担が大きくなる。
- 実務上は、両者を組み合わせた「グレーボックステスト」が行われる。システムに精通した人が行うが、インプットデータが網羅的であることにはこだわらない。現実には、さまざまな場面で、このテストが行われている。どのようなグレーボックステストを行うか、その中身が問題となる。
- AIの時代には、従来以上にブラックボックスとうまく付き合っていかなくてはならない。AIの進化とともに、人間の側も、AIを上手に信じる感性を研ぎ澄ましていく必要がある。
■目次
1――はじめに
2――「ある程度から先は、AIの出した答えを信じるしかない」
3――人間の側のAIへの接し方が問われる
4――ブラックボックスはすでに身近にある
5――「ブラックボックステスト」には限界がある
6――「ホワイトボックステスト」は負担が大きい
7――「グレーボックステスト」はテストの中身が重要
(2022年11月21日「ニッセイ景況アンケート」)
このレポートの関連カテゴリ

保険研究部 主席研究員 兼 気候変動リサーチセンター チーフ気候変動アナリスト 兼 ヘルスケアリサーチセンター 主席研究員
篠原 拓也 (しのはら たくや)
研究・専門分野
保険商品・計理、共済計理人・コンサルティング業務
03-3512-1823
- 【職歴】
1992年 日本生命保険相互会社入社
2014年 ニッセイ基礎研究所へ
【加入団体等】
・日本アクチュアリー会 正会員
篠原 拓也のレポート
日付 | タイトル | 執筆者 | 媒体 |
---|---|---|---|
2025/04/15 | 患者数:入院は減少、外来は増加-2023年の「患者調査」にコロナ禍の影響はどうあらわれたか? | 篠原 拓也 | 基礎研レター |
2025/04/08 | センチネル効果の活用-監視されていると行動が改善する? | 篠原 拓也 | 研究員の眼 |
2025/04/01 | 1, 2, 4, 8, 16, ○, …-思い込みには要注意! | 篠原 拓也 | 研究員の眼 |
2025/03/25 | 産業クラスターを通じた脱炭素化-クラスターは温室効果ガス排出削減の潜在力を有している | 篠原 拓也 | 基礎研レター |
新着記事
-
2025年04月18日
ECB政策理事会-トランプ関税を受け6会合連続の利下げ決定 -
2025年04月18日
トランプ関税へのアプローチ-日EUの相違点・共通点 -
2025年04月18日
金融セクターにおけるリスクと脆弱性(欧州 2025春)-ESAの合同報告書より。地政学的リスクとサイバーリスクに重点。 -
2025年04月18日
トランプ関税発の円高は止まるか?~マーケット・カルテ5月号 -
2025年04月18日
「未定」が広がるのか、それとも見通しを示すのか?~関税政策と企業の開示姿勢~
レポート紹介
-
研究領域
-
経済
-
金融・為替
-
資産運用・資産形成
-
年金
-
社会保障制度
-
保険
-
不動産
-
経営・ビジネス
-
暮らし
-
ジェロントロジー(高齢社会総合研究)
-
医療・介護・健康・ヘルスケア
-
政策提言
-
-
注目テーマ・キーワード
-
統計・指標・重要イベント
-
媒体
- アクセスランキング
お知らせ
-
2025年04月02日
News Release
-
2024年11月27日
News Release
-
2024年07月01日
News Release
【AIの時代、どこから先を信じるか~ブラックボックスにどう対処する?】【シンクタンク】ニッセイ基礎研究所は、保険・年金・社会保障、経済・金融・不動産、暮らし・高齢社会、経営・ビジネスなどの各専門領域の研究員を抱え、様々な情報提供を行っています。
AIの時代、どこから先を信じるか~ブラックボックスにどう対処する?のレポート Topへ