中分類18 は、AI のモデルの仕組みの知識で、機械学習、ディープラーニング、生成 AI 技術、AI エージェント技術の四つの小分類から成ります。現行の応用情報では基礎理論の「AI に関する技術」にあった範囲を独立させ、AI エージェントの技術を加えました。業務での使い分けは中分類10(AI 利活用)で扱います。
この節の用語(小分類ごと)
機械学習
- 教師あり学習: 数値を予測するのが回帰(線形回帰など)、クラスを判定するのが分類。ロジスティック回帰は名前に反して分類の手法。
- 決定木とアンサンブル学習: 複数のモデルを組み合わせるのがアンサンブル学習で、多数の決定木の多数決や平均をとるのがランダムフォレスト。SVM は境界との距離(マージン)が最大になる境界を求める。
- 教師なし学習: 似たものをまとめるクラスタリング(k-means 法など)と、変数を減らす次元削減(主成分分析など)。
- 強化学習: 試行と報酬から、報酬の合計が最大になる行動の方策を学ぶ。
- ハイパーパラメータ: 学習率など、学習の前に決める値。総当たりで試すのがグリッドサーチ、無作為に試すのがランダムサーチ。
- 汎化性能: 未知のデータへの性能。単純すぎると偏り(バイアス)が、複雑すぎるとばらつき(バリアンス)が大きくなるのがバイアス・バリアンスのトレードオフ。
- ドリフト(新): 運用中に入力の分布が変わるのがデータドリフト、モデルの予測性能が劣化していくのがモデルドリフト。
- 検証と評価: データを一度だけ分けるのがホールドアウト検証、分け方を変えて評価を繰り返すのが交差検証。ROC 曲線は横軸に偽陽性率、縦軸に真陽性率をとり、その下の面積が AUC。
ディープラーニング
- ニューラルネットワーク: 層を深く重ねたものがディープラーニング。誤差が小さくなる向きに重みを少しずつ更新するのが勾配降下法(新)。
- 活性化関数: シグモイド関数(新)は 0〜1、tanh 関数は −1〜1 に値を収める。層が深いと勾配が小さくなる勾配消失問題が起き、ReLU 関数(負なら 0、正ならそのまま)で緩和する。Leaky ReLU 関数(新)は負の側に小さな傾きを残す。ソフトマックス関数は出力を合計 1 の確率にする。
- 事前学習と転移学習: 事前学習したモデルを別の課題に生かすのが転移学習、追加のデータで重みを調整するのがファインチューニング。
- 正則化とドロップアウト: 正則化は重みの大きさに罰則を加え、ドロップアウトは学習中に一部のニューロンを無作為に無効にして、過学習を抑える。
- CNN と RNN: CNN は畳み込みのフィルタで局所的な特徴を抽出し、画像に強い。RNN は系列を順に処理して内部の状態を引き継ぐ。
生成 AI 技術
- 拡散モデル: ノイズを段階的に除く処理を学習し、ノイズから画像などを生成する。生成と識別のネットワークを競わせるのは GAN。
- LLM と Transformer: Transformer は 2017 年の論文「Attention Is All You Need」で提案され、各要素と他の全要素との関連度を求める自己注意機構で、離れた語の関係も並列に計算する。LLM は次の語の予測などの自己教師あり学習で事前学習する。
- コンテキスト内学習(新): プロンプトに例を示して解き方を伝える。重みは更新しない。
- アラインメントと RLHF: AI の振る舞いを人の意図に沿わせるのがアラインメント。RLHF は、人が応答を順位付けしたデータで報酬モデルを作り、その報酬が高くなるようにモデルを更新する。
- トークン(新): LLM が処理する文字列の単位で、料金もトークン数で数える。一度に扱えるトークン数の上限がコンテキストウィンドウ(新)。
- エンベディング(新): 語や文書を、意味が近いほど近いベクトルに変換したもの。外部の文書を検索して回答に生かす検索拡張生成(RAG)(新)の検索に使う。
- モデルの軽量化: プルーニングは寄与の小さい重みを除き、蒸留は大きなモデルの出力を目標に小さなモデルを学習させ、量子化は重みを少ないビット数で表す。
AI エージェント技術
- 思考フレーム(新): CoT は推論の途中過程を段階的に出力させ、ToT は思考を木のように分岐させて探索する。
- 長期記憶(新): 対話や作業をまたいで情報を保存し、後で使う仕組み。
- MCP(新): AI アプリケーションと外部のツールやデータソースとの接続を共通化するオープンなプロトコル。Anthropic が 2024 年 11 月に公開した。
- コンテキストエンジニアリング(新): 指示、検索結果、ツールの出力、記憶など、モデルに渡す情報全体を設計し管理すること。
- エージェンティックワークフロー/マルチエージェント(新): 計画、ツールの実行、結果の確認を繰り返す処理の流れと、役割の異なる複数のエージェントの協調。エージェント同士が能力を知らせ合いタスクを委ねるプロトコルが A2A(新)で、Google が 2025 年 4 月に公開した。
- スキル設計パターン(新): 共通知識のシラバス案に説明はなく、データ・AI 区分のシラバス案が Tool Wrapper、Generator、Reviewer、Inversion、Pipeline を例に挙げる。Anthropic が 2025 年 10 月に公開した Agent Skills のように、エージェントが使う手順や知識を必要なときに読み込める単位(スキル)にまとめるときの、組み立て方の型と考えられる。
試験で問われる観点
- AUC は 1 に近いほどよく、0.5 は無作為。ROC 曲線の軸は偽陽性率と真陽性率。
- 重みを更新するか。コンテキスト内学習、CoT、RAG は更新せず、ファインチューニングと RLHF は更新する。
- 軽量化の 3 手法(プルーニング、蒸留、量子化)と転移学習の区別。
- 拡散モデルと GAN、逐次処理の RNN と並列処理の Transformer の取り違え。
- MCP はツールやデータとの接続、A2A はエージェント同士の連携。
- 学習データでは誤差が小さいのに検証データで大きいのが過学習。
関連する節
- AI 利活用: 識別 AI、生成 AI、AI エージェントの業務での使い分け
- データ分析・データ利活用: 統計的手法と分析の基盤
- 開発・運用の方法論: MLOps と AI 駆動開発
- アルゴリズム・プログラミング: コサイン類似度と半精度の数値表現
- データベース: ベクトルデータベース