中分類10 は、AI を業務で安全かつ効果的に使うための知識で、原則と指針、識別 AI、生成 AI、AI エージェントの四つの小分類から成ります。モデルの仕組みは中分類18(AI 技術)の範囲で、ここでは「どの場面で何を選ぶか」と、政府の原則や指針の中身が問われます。
この節の用語(小分類ごと)
AI 利活用の原則及び指針
- 人間中心の AI 社会原則: 2019 年 3 月に政府が決定。人間中心、教育・リテラシー、プライバシー確保、セキュリティ確保、公正競争確保、公平性・説明責任及び透明性、イノベーションの七つの AI 社会原則を示す。
- AI-Ready な社会: 人、制度、産業構造などが AI を受け入れ、その恩恵を十分に生かせる状態になった社会。
- AI 事業者ガイドライン(新): 総務省と経済産業省による、法的拘束力のないソフトロー。AI 開発者、AI 提供者、AI 利用者の主体ごとに取組を示す。現行は 2026 年 3 月の第 1.2 版で、AI エージェントやフィジカル AI の記載が加わった。
- ISO/IEC 42001(新): AI マネジメントシステムの国際規格(2023 年発行)。認証の基準にも使われる。
- AISI(新): AI の安全性の評価手法などを検討する機関。日本では 2024 年 2 月に IPA に設置された。
識別 AI 利活用
- 教師あり学習による予測: 入力と正解の組を学習し、新たな入力の正解を予測する。良品と不良品の判定など。
- 教師なし学習によるグルーピング: 正解を与えずにデータの構造を見いだす。購買傾向が似た顧客のクラスタリングなど。
- 強化学習による支援: 試行を繰り返し、得られる報酬が最大になる行動の方策を学ぶ。搬送ロボットの動作の改善など。
- AI による異常検知: 正常時の傾向から外れたデータを見つける。設備の故障の予兆や不正取引の検出に使う。
生成 AI 利活用
- RAG による知識連携(新): 外部の文書を検索し、関連部分をプロンプトに含めて回答を生成させる方式。文書の差し替えで最新の内容を反映でき、根拠も示せる。
- ランダム性の制御(新): Temperature は確率分布の鋭さ、Top-k は候補の個数、Top-p は確率の累計で候補を絞る。値を小さくするほど出力が安定する。
- システムプロンプト: 利用者の入力より前に与える、役割や回答方針の指示。学習していない知識を補う効果はない。
- ローカル LLM 活用の検討(新): 重みが公開されたモデルなどを自社の設備で動かし、データを社外に出さずに使う。計算資源や更新は自社が担う。
AI エージェント利活用
- AI エージェント(新): 目標を与えると、計画、ツールの利用、結果の確認を繰り返して自律的に作業を進める AI。特性として適応性、積極性、目的の複雑性、環境の複雑性、自律性が挙がる。
- ガードレール(新): AI の入力、出力、行動を監視・制限する仕組み。安全性への配慮に加え、倫理的配慮や法令順守も対象。
- 自律性と人間の関与: 外部に影響する操作の前に人の承認を挟む、権限を必要最小限にする、操作の履歴を残す、といった設計。
試験で問われる観点
- 頻繁に変わる文書に根拠付きで答えるなら RAG。ファインチューニングのやり直しやシステムプロンプトの指示では満たせない。
- Temperature、Top-k、Top-p の区別。最大トークン数は長さの上限で、ランダム性の制御ではない。
- AI 事業者ガイドラインは届出や罰則がなく、対象は開発者に限らない。リスク区分で特定の AI を禁止するのは EU の AI 法。
- セキュリティ確保の原則は、単一や少数の AI に依存しないことを求める。
- 「社外に送信しない」条件では、学習に使わない規約や国内データセンタのクラウドでも送信は避けられず、ローカル LLM になる。
関連する節
- 経営戦略・デジタル戦略: DX 戦略と推進の指針
- 開発・運用の方法論: AI 駆動開発と MLOps
- 情報セキュリティの脅威: プロンプトインジェクションなど AI への攻撃