中分類10 の後半の二つの小分類、生成 AI と AI エージェントを扱います。生成 AI は文章の要約からプログラミングまで日常の業務に入り込んでおり、DM では仕組みの細部より、設定や指示の工夫と、出力をどう確かめるかが問われます。AI エージェントでは、任せる範囲と人が関わる場面の設計が中心です。
この節の用語(小分類ごと)
生成 AI 利活用
- 生成 AI: 大量の文章や画像を学び、指示に応じて新しい文章、画像、音声などを作り出す AI。
- マルチモーダル AI: テキスト、画像、音声、動画など種類(モダリティ)の異なるデータを組み合わせて扱える AI。設備の写真と点検記録を入力して所見を書かせる、会議の音声から議事録を作るなど。多言語対応とは別。
- ランダム性の制御: Temperature などの設定で出力のばらつきを調整する。低くすると確率の高い語が選ばれやすく、同じ入力に安定した出力が返る。高くすると出力が多様になる。問合せの区分への振分けや数値の転記は低く、キャッチコピーの案出しは高くする。
- RAG による知識連携: 社内文書などを検索し、取り出した部分をプロンプトに含めて回答を生成させる仕組み。モデルを学習し直さずに自社の最新の情報を反映でき、回答の根拠も示せる。一方で回答の正しさは検索対象の文書の管理に左右されるので、文書を改版したら旧版を対象から除くか、版や型番のメタデータで絞り込む。
- プロンプトエンジニアリング: 目的に合った出力を得るために指示を工夫すること。役割を示す、目的・読み手・前提の条件を伝える、出力の形式や分量を具体的に指定する、求める出力の例を幾つか示す(few-shot プロンプティング)など。前提を省くと業務に合わない出力になりやすい。
- システムプロンプト: 利用者の入力に先立って AI に与える指示。役割、口調、回答してよい範囲、禁止事項など、対話全体の振る舞いを定める。利用者が質問のたびに入力するのはユーザープロンプト。
- 生成 AI の活用例: シラバスは文章の添削・要約、アイディアの提案、論文の執筆、プログラミング、静止画・動画・音声の生成、情報収集、複数の生成 AI を用いた検証を挙げる。どの用途でも出力は人が確かめる。添削なら原文の意味や条件が変わっていないか、プログラムなら結果が分かっている少量のデータでの動作、画像なら既存の著作物や他社の商標に似ていないか。
- 複数の生成 AI を用いた検証: 同じ質問を複数の生成 AI に与え、食い違う点を見つけて一次情報で確かめる手段。似た公開情報で学習していると同じ誤りを共有し得るので、回答が一致しただけでは事実の裏付けにならない。
AI エージェント利活用
- AI エージェント: 目標を与えると、自ら手順を計画し、外部のツールやシステムを操作しながら作業を進める AI。経費精算の照合や注文変更の手続など、操作まで任せられる点が生成 AI の単純な利用と異なる。
- 自律性と人間の関与: 規程に照らして判断できる定型の処理は AI エージェントに任せ、規程で判断できないものは人に回す(例外処理)。支払の確定のように取り消しにくい操作の前には、権限をもつ人が確認する(最終承認)。全件を人が確認すると自律性を生かせず、事後の確認だけでは誤りを取り消せない。任せる範囲は、誤りの影響と取り消しやすさで決める。
- ガードレール: AI エージェントの入力、出力、行動を検査・制限して、望ましくない動作を防ぐ仕組み。指示を書き換えようとする入力を止める(安全性への配慮)、属性による不当な扱いや差別的な表現を抑止する(倫理的配慮)、他の顧客の個人情報の送信を止める(法令順守)など。判断に迷う場合は推定で実行させず、止めて担当者に引き継ぐ。
- ハーネスエンジニアリング: AI エージェントが使えるツール、参照できる情報、与える権限、実行結果を検証して差し戻す仕組み、ガードレールなど、モデルの周りの環境を設計・整備して安定して動かす取組を一般にこう呼ぶ。2026 年に広まった語で、定義はまだ固まっていない。
試験で問われる観点
- 業務に合わせたランダム性の設定。正解が一つに決まる作業は低く、多様な案が欲しい作業は高く。
- RAG で古い情報が返る原因は検索対象の文書の管理。Temperature を下げても、新しいモデルに替えても解決しない。
- システムプロンプト、ユーザープロンプト、few-shot、RAG の区別。
- 生成 AI の出力はそのまま使わず人が確かめる。数値や事実は一次情報で確認し、複数の AI の回答の一致だけで確定させない。
- 例外処理と最終承認の組合せ。ガードレールの例と、例にならないもの(迷ったときに最も確からしい対応をそのまま実行する)の見分け。
- ハーネスエンジニアリングと、プロンプトエンジニアリング、ファインチューニング、説明可能な AI(XAI)の区別。
関連する節
- AI 利活用(1)原則・指針と識別 AI: AI 社会原則と AI 事業者ガイドライン
- メタデータ管理: ビジネスメタデータとデータカタログ
- 情報倫理・AI 倫理: ハルシネーションと出典の確認
- 情報セキュリティマネジメント: 機密区分に沿ったデータの扱い
- ビジネス関連法規: 生成物と著作権
- より深く学ぶなら: PD 参考書「AI 利活用」: Top-p・Top-k やローカル LLM を含む、プロフェッショナルデジタルスキル試験の範囲