第41話「AIに任せきり禁止！」
ストラテジ系 ／ 技術戦略・ビジネスインダストリ ── テーマ：AIの種類・過学習・XAI・人とAIの役割分担
▶ マンガで読む（無料・登録なし）この話で覚える用語（7語）
- 人間中心のAI社会原則にんげんちゅうしんのえーあいしゃかいげんそく
- 日本政府が2019年に示した、AIを社会で使うときの基本的な考え方。AIは人の尊厳を守り人を幸せにするための道具とし、プライバシー確保・公平性・説明責任・透明性などの原則を挙げる。
- 大規模言語モデル（LLM）だいきぼげんごもでる
- 膨大な量の文章で学習し、文脈に合う次の言葉を予測することで、人と会話したり文章を作ったりできるAIのモデル。チャット型の生成AIの中心となる技術。
- 過学習かがくしゅう
- 機械学習で、学習用のデータに合わせすぎてしまい、学習データでは高い精度が出るのに、初めて見る新しいデータではうまく予測できなくなる状態。
- ファインチューニングふぁいんちゅーにんぐ
- 大量のデータで学習済みのAIモデルに、目的に合ったデータで追加の学習を行い、モデルのパラメータを微調整して特定の用途に合わせること。
- 説明可能なAI（XAI）せつめいかのうなえーあい
- AIが出した予測や判断について、なぜそうなったのか根拠を人が理解できる形で示す技術や考え方。中身がブラックボックスになりやすいAIの透明性を高める。
- ヒューマンインザループひゅーまんいんざるーぷ
- AIの判断や処理の流れの途中に人が関わり、確認・修正・最終判断を行うしくみ。AIに任せきりにせず、重要な場面で人のチェックを入れて誤りを防ぐ。
- ディープフェイクでぃーぷふぇいく
- 深層学習などのAI技術で作った、本物そっくりの偽の映像・画像・音声。実在の人物が言っていないことを話しているように見せ、詐欺や偽情報に悪用される。
試験に出るポイント
- 過学習＝一夜漬けで練習問題の答えだけ丸暗記。本番の新しい問題に弱い
- 転移学習＝ピアノの経験をオルガンに転用／ファイン（細かく）チューニング＝微調整
- XAI＝AIの「なぜ？」に答える説明係
- ヒューマンインザループ＝処理の輪（ループ）の中に人（ヒューマン）がいる
- 特化型＝専門店／汎用＝何でも屋。マルチモーダル＝データの種類がマルチ（複数）
- 人間中心のAI社会原則＝AIは人のための道具。公平性・説明責任・透明性など
- 特化型AI＝特定の仕事だけ／汎用AI＝人のように幅広い課題に対応
- マルチモーダルAI＝文章・画像・音声など複数の種類のデータを扱う
- 過学習＝学習データに合わせすぎて、未知のデータで精度が落ちる
- XAI＝判断の根拠を示す／ヒューマンインザループ＝途中で人が関わる
- ディープフェイク＝AIで作った偽の映像・音声／バイアス＝データの偏りが判断に出る
確認クイズ（ITパスポート試験の形式）
- 学習データに過度に合わせてしまい、未知のデータに対する予測の精度が下がる
- 学習済みのモデルに追加のデータで学習させ、特定の用途向けに微調整する
- ある課題で学習した知識を、別の関連する課題の学習に流用する
- AIが判断した根拠を、人が理解できる形で示す
答えと解説を見る
正解：ア 学習データに過度に合わせてしまい、未知のデータに対する予測の精度が下がる
過学習は学習データに合わせすぎて未知のデータに弱くなる状態です。追加学習で微調整するのはファインチューニング、知識の流用は転移学習、根拠を示すのは説明可能なAI（XAI）です。
- マルチモーダルAI
- 特化型AI
- 汎用AI
- 説明可能なAI（XAI）
答えと解説を見る
正解：ア マルチモーダルAI
複数の種類のデータを扱うのがマルチモーダルAIです。特化型AIは特定の仕事だけ、汎用AIは人のように幅広い課題に対応するAI、XAIは判断の根拠を示すAIです。
- AIの処理や判断の途中に人が関わり、確認や修正、最終判断を行う
- AI技術で本物そっくりの偽の映像や音声を作り、人をだます
- AIへの指示文の書き方を工夫して、目的に合った回答を引き出す
- 学習データの偏りが、AIの判断結果に不公平な形で表れる
答えと解説を見る
正解：ア AIの処理や判断の途中に人が関わり、確認や修正、最終判断を行う
途中に人が関わるのがヒューマンインザループ。偽の映像はディープフェイク、指示文の工夫はプロンプトエンジニアリング、データの偏りが出るのはアルゴリズムのバイアスです。
マンガのセリフ（文字版）
ミライ「お客さま対応は全部AIにおまかせ！人間はお昼寝タイムです♪」
部長「いいな！わしは一日中昼寝だ！」
ツカサ先輩「寝るな！」
ツカサ先輩「政府の人間中心のAI社会原則でも、AIは人のための道具。使い方は人が決めるんだ」
ツカサ先輩「うちのAI翻訳は、翻訳だけをこなす特化型AI。今のAIの多くはこれだ」
ミライ「人みたいに何でもできるAIは？」
ツカサ先輩「それは汎用AI。人のように幅広い課題をこなすことをめざすAIだ」
ツカサ先輩「うちのチャット窓口は大規模言語モデル（LLM）で動いている」
ミライ「質問の書き方しだいで、答えも変わるんですか？」
ツカサ先輩「そう。指示の工夫をプロンプトエンジニアリングという」
ミライ「わかった！AIをおだててやる気を出させる技術ですね！「天才！最高！」」
ツカサ先輩「おだてる技術じゃない！」
ツカサ先輩「役割・条件・出力の形を具体的に書いて、ほしい答えに近づける工夫だ」
部長「AI翻訳を、医療の言葉にも強くできんか？」
ツカサ先輩「学んだ力を別の仕事に生かす転移学習や、ファインチューニングを使います」
1週間後
ミライ「練習データで正解率100％！うちのAI、天才です！」
本番のデータで試すと…正解率50％
ツカサ先輩「過学習だな。練習問題の答えを丸暗記して、初めての問題に弱いんだ」
ミライ「テスト前の一夜漬けと同じだ…」
部長「AIの書類審査、なぜか男性ばかり合格させるぞ？」
ツカサ先輩「過去のデータの偏りを学んだアルゴリズムのバイアスです」
ツカサ先輩「なぜその判断か示せる説明可能なAI（XAI）で、理由を確かめましょう」
ツカサ先輩「合否のような大事な判断は、AIに任せきりにしない」
ツカサ先輩「途中で人が確かめて直す。ヒューマンインザループだ」
ミライ「最後は人が決める、ですね！」
翌日、社内チャットに動画が…
ミライ「部長が「全員ボーナス10倍！」って言ってる動画が！」
部長「わしは言っとらん！そんな大金ない！」
ツカサ先輩「AIで作った本物そっくりの偽動画、ディープフェイクだ。うのみにしない」
ツカサ先輩「AIサービスはオプトアウトポリシーも確認。入力が学習に使われない設定があるか見よう」
- 過学習＝一夜漬けで練習問題の答えだけ丸暗記。本番の新しい問題に弱い
- 転移学習＝ピアノの経験をオルガンに転用／ファイン（細かく）チューニング＝微調整
- XAI＝AIの「なぜ？」に答える説明係
- ヒューマンインザループ＝処理の輪（ループ）の中に人（ヒューマン）がいる
- 特化型＝専門店／汎用＝何でも屋。マルチモーダル＝データの種類がマルチ（複数）
- 人間中心のAI社会原則＝AIは人のための道具。公平性・説明責任・透明性など
- 特化型AI＝特定の仕事だけ／汎用AI＝人のように幅広い課題に対応
- マルチモーダルAI＝文章・画像・音声など複数の種類のデータを扱う
- 過学習＝学習データに合わせすぎて、未知のデータで精度が落ちる
- XAI＝判断の根拠を示す／ヒューマンインザループ＝途中で人が関わる
- ディープフェイク＝AIで作った偽の映像・音声／バイアス＝データの偏りが判断に出る
後日
部長「わしもファインチューニングしたぞ！朝の体操で体を微調整だ！」
ツカサ先輩「…それはただのラジオ体操です」
ミライ「学習済みのAIに追加で学習させることですってば！」