プロフェッショナルデジタルスキル › Web参考書 › 第2章

AI 利活用:AI 社会原則・AI 事業者ガイドライン、識別 AI・生成 AI・AI エージェントの使い分け

第2章 データ・AIの利活用 / 節 3

シラバスのキーワード: 人間中心の AI 社会原則AI 事業者ガイドラインAI マネジメントシステム(ISO/IEC 42001)AI セーフティ・インスティテュート(AISI)教師あり学習による予測教師なし学習によるグルーピング強化学習による支援RAG による知識連携ランダム性の制御(Temperature,Top-p,Top-k)システムプロンプトローカル LLM 活用の検討AI エージェントガードレール

中分類10 は、AI を業務で安全かつ効果的に使うための知識で、原則と指針、識別 AI、生成 AI、AI エージェントの四つの小分類から成ります。モデルの仕組みは中分類18(AI 技術)の範囲で、ここでは「どの場面で何を選ぶか」と、政府の原則や指針の中身が問われます。

この節の用語(小分類ごと)

AI 利活用の原則及び指針

識別 AI 利活用

生成 AI 利活用

AI エージェント利活用

試験で問われる観点

関連する節

この節の練習問題(11問)

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

  1. 問1
    AI のリスク管理やガバナンスに関する枠組み,規格及び法律の記述のうち,適切でないものはどれか。
    1. 1ISO/IEC 42001 は,AI マネジメントシステムを確立し,実施し,維持し,継続的に改善するための要求事項を定めた規格であり,認証機関による第三者認証の基準として用いられる。
    2. 2欧州委員会の AI ハイレベル専門家グループによる信頼できる AI のための倫理ガイドラインは,適法性,倫理性,頑健性を信頼できる AI の要素とし,人間の主体性と監督など七つの要件を挙げている。
    3. 3NIST の AI RMF 1.0 は,AI システムをリスクの大きさに応じて四つの区分に分け,区分ごとに禁止や適合性評価などの要求事項を定めて,AI の提供者に遵守を求める枠組みである。
    4. 4AI 推進法は,内閣に人工知能戦略本部を置いて人工知能基本計画を定めることなどを規定し,事業者には国の施策に協力する責務を定めるが,違反に対する罰則は設けていない。
    答えと解説

    正解: 3

    NIST の AI RMF 1.0(2023 年 1 月)は,組織が任意に採用するリスク管理の枠組みであり,GOVERN(統治),MAP(把握),MEASURE(測定),MANAGE(管理)の四つの機能で構成され,GOVERN は他の三つに横断的に関わる。リスクの区分ごとに禁止や適合性評価を課すのは EU AI 法の考え方であり,記述は適切でない。ISO/IEC 42001 は JIS Q 42001:2025 としても制定された認証の基準である。2019 年の倫理ガイドラインは三つの要素と七つの要件を示した。AI 推進法は罰則を置かない推進のための法律である。

  2. 問2
    AI の研究で議論されてきた問題のうち,シンボルグラウンディング問題の説明として,最も適切なものはどれか。
    1. 1記号で表した知識を基に行動しようとするときに,膨大な事柄の中から関係するものだけを選び出し,無関係なものを無視する判断を,有限の時間で行うことが難しいという問題
    2. 2AI が扱う記号を,それが指す実世界の対象や感覚的な経験と結び付けることができないので,記号を操作できても,その意味を理解しているとはいえないという問題
    3. 3人間には難しい論理的な推論や計算は AI にとって比較的容易である一方,人間が幼いうちに身に付ける知覚や運動の能力は,AI での実現が難しいという問題
    4. 4専門家がもつ知識を記号によるルールとして書き出してエキスパートシステムに組み込もうとしても,暗黙的な知識を網羅的に記述することが難しいという問題
    答えと解説

    正解: 2

    シンボルグラウンディング問題(記号接地問題)は,記号の意味を,記号どうしの関係だけでなく実世界の対象や知覚と結び付けて捉えられるかという問題である。例えば“シマウマ”を“縞のある馬”という定義で知っていても,実物を見て結び付けられなければ意味を理解したとはいえない。行動に関係する事柄の取捨選択が有限の時間でできないのはフレーム問題,推論は容易でも知覚や運動が難しいのはモラベックのパラドックス,専門家の知識を書き出す難しさは知識獲得のボトルネックである。

  3. 問3
    生成 AI の利活用で注意すべきコンテキスト腐敗の説明として,最も適切なものはどれか。
    1. 1入力に含まれる情報のうち,先頭と末尾の付近に置いた情報は回答に生かされやすいが,中ほどに置いた情報は生かされにくく,同じ情報でも置く位置によって回答の正確さが変わる。
    2. 2会話の履歴がコンテキストウィンドウの上限を超えると,古いやり取りから順に入力から外れていき,会話の初めに与えた指示や前提が回答に反映されなくなる。
    3. 3回答を生成する途中で,自らが先に生成した誤った内容を前提として後続の文章を生成するので,誤りが連鎖して,長い回答の後半ほど内容が不正確になる。
    4. 4入力がコンテキストウィンドウの上限に収まっていても,入力のトークン数が増えるにつれて,入力中の情報を正確に参照して使う能力が全体として低下していく。
    答えと解説

    正解: 4

    コンテキスト腐敗(context rot)は,入力のトークン数が増えるほど,上限の範囲内であっても,入力中の情報を正確に想起して使う性能が低下する現象であり,単純な課題でも生じることが報告されている。対策は,検索や要約で必要な情報を絞り込み,入力を短く保つことである。置く位置によって活用の度合いが変わり,中ほどが生かされにくいのは Lost in the Middle 現象であり,入力の長さによる全体の劣化とは区別される。上限を超えた履歴の切捨てや,自ら生成した誤りの連鎖は別の現象である。

  4. 問4
    AI エージェントの自律性のタイプを,アシスト型,半自律型,自律型に分けるとき,半自律型の運用の例として,最も適切なものはどれか。
    1. 1AI エージェントが調査の計画を立てて検索や集計のツールで作業を進めるが,外部へのメール送信やデータの更新など影響の大きい操作の前には担当者の承認を得る。
    2. 2担当者が依頼するたびに,AI エージェントが報告書の文案や表の案を作成して示し,内容の採否や修正,その後に進める作業の内容と順序は,全て担当者が判断する。
    3. 3あらかじめ定めた予算と対象品目の範囲で,AI エージェントが需要の予測から発注の計画と実行までを行い,担当者は週ごとの報告を見て結果を事後に確認する。
    4. 4AI エージェントが調査の計画と手順を立てて示すが,検索や集計のツールの操作は全て担当者が行い,その結果を受けて AI エージェントが次の手順を提案する。
    答えと解説

    正解: 1

    半自律型は,AI エージェントが計画から実行までを担いつつ,影響の大きい操作や取り消せない操作など,あらかじめ定めた場面で人間の承認を挟む形態である。案を示すだけで採否や次の作業を全て人間が決めるのはアシスト型であり,定めた範囲の中で計画から実行までを任せて事後に確認するのは自律型である。計画や手順を示しても,ツールの操作を全て人間が行うなら,AI エージェントは実行を担っていないのでアシスト型である。どのタイプを採るかは,誤りの影響の大きさと取消しの可否で決める。

  5. 問5
    ある企業では,社内規程に関する従業員からの問合せに回答する生成 AI チャットボットを導入する。社内規程は頻繁に改定され,回答には根拠とした規程の条文を示す必要がある。この要件を満たす方法として,最も適切なものはどれか。
    1. 1社内規程の文書を検索できる形で蓄積しておき,質問に関連する条文を検索してプロンプトに含め,その条文を根拠として示しながら回答を生成させる。
    2. 2規程が改定されるたびに全ての規程文書を用いて LLM のファインチューニングをやり直し,最新の規程の内容をモデルに記憶させてから回答させる。
    3. 3回答の表現が単調にならないよう Temperature の値を高く設定し,同じ質問に対しても毎回異なる観点からの多様な回答を生成させる。
    4. 4システムプロンプトに「常に最新の社内規程に基づいて,根拠となる条文を示して回答すること」と記述し,回答の方針を LLM に指示する。
    答えと解説

    正解: 1

    RAG(検索拡張生成)は,外部の文書を検索して得た情報をプロンプトに含めて回答を生成させる方式であり,文書を差し替えるだけで最新の規程を反映でき,検索した条文を根拠として提示できる。改定のたびにファインチューニングをやり直す方法は,コストと時間がかかるうえ,学習した内容のどこを根拠にしたかを示すことが難しい。Temperature を高くすると出力のランダム性が増すので,規程に忠実で一貫した回答が求められる用途には適さない。システムプロンプトで指示しても,LLM は学習していない最新の規程を参照できないので,要件は満たせない。

  6. 問6
    2019 年に政府が決定した“人間中心の AI 社会原則”に示されている AI 社会原則とその内容の組合せとして,適切でないものはどれか。
    1. 1教育・リテラシーの原則:AI による格差や弱者を生まないよう,幼児教育や初等中等教育に加え,社会人や高齢者の学び直しの機会も提供されることが求められる。
    2. 2セキュリティ確保の原則:AI の安全性を高めるため,社会は十分に検証された単一の AI に一元的に依存し,利用する AI の種類を絞り込むべきである。
    3. 3公正競争確保の原則:特定の企業に AI に関する資源が集中し,その支配的な地位を利用した不当なデータの収集や不公正な競争が行われる社会であってはならない。
    4. 4公平性,説明責任及び透明性の原則:AI の利用によって人々がその背景を理由に不当な差別を受けることなく,意思決定とその結果に対する説明責任が確保される必要がある。
    答えと解説

    正解: 2

    人間中心の AI 社会原則は,2019 年 3 月に統合イノベーション戦略推進会議で決定されたもので,人間中心,教育・リテラシー,プライバシー確保,セキュリティ確保,公正競争確保,公平性・説明責任及び透明性,イノベーションの七つの AI 社会原則を示している。セキュリティ確保の原則では,社会は AI の利用における持続可能性に留意し,単一あるいは少数の特定の AI に一義的に依存してはならないとしており,単一の AI に依存すべきとする記述は適切でない。学び直しを含む教育機会の提供,資源の集中による不公正な競争の防止,不当な差別の防止と説明責任の確保は,それぞれの原則の内容として適切である。

  7. 問7
    総務省と経済産業省が策定した“AI 事業者ガイドライン”に関する記述として,最も適切なものはどれか。
    1. 1AI を利用する全ての事業者に,利用している AI サービスの国への届出と利用状況の定期的な報告を義務付け,届出をしない事業者には罰則を科している。
    2. 2対象は AI モデルを開発する事業者に限られており,AI を組み込んだサービスを提供する事業者や,業務で AI を利用する事業者は対象外とされている。
    3. 3AI のリスクの大きさに応じて AI システムを四つの区分に分類し,許容できないリスクの区分に当たる AI については,その提供を一律に禁止している。
    4. 4AI 開発者,AI 提供者,AI 利用者の主体ごとに望ましい取組を示し,2026 年 3 月の改訂では AI エージェントに関する記載が加わった。
    答えと解説

    正解: 4

    AI 事業者ガイドラインは,総務省と経済産業省が策定した法的拘束力のないソフトローであり,AI 開発者,AI 提供者,AI 利用者の三つの主体ごとに,共通の指針と主体別に取り組むことが望ましい事項を示している。技術の進展などに合わせて継続的に見直す方針であり,2024 年 4 月の第 1.0 版,2025 年 3 月の第 1.1 版に続き,2026 年 3 月の第 1.2 版で AI エージェントやフィジカル AI に関する記載が追加された。届出の義務や罰則は定められておらず,対象は開発者に限られず提供者や利用者も含む。リスクの区分に応じて特定の AI の提供を禁止するのは EU の AI 法の考え方であり,このガイドラインの内容ではない。

  8. 問8
    識別 AI の活用例 a〜c と,主に用いられる機械学習の方式の組合せとして,最も適切なものはどれか。 a 過去の検査で良品又は不良品と判定された製品の画像を学習させ,新たに撮影した製品の画像から不良品を判定する。 b 顧客の購買履歴を基に,購買の傾向が似ている顧客どうしをまとめて幾つかのグループに分け,グループごとの販促策を検討する。 c 倉庫内の搬送ロボットに,シミュレーション上で試行を繰り返させ,搬送の完了までの時間が短いほど高い評価を与えて,動作の方策を改善させる。
    1. 1a:教師あり学習,b:教師なし学習,c:強化学習
    2. 2a:教師あり学習,b:強化学習,c:教師なし学習
    3. 3a:教師なし学習,b:強化学習,c:教師あり学習
    4. 4a:強化学習,b:教師なし学習,c:教師あり学習
    答えと解説

    正解: 1

    教師あり学習は,入力と正解の組を学習して,新たな入力に対する正解を予測する方式であり,良品・不良品の判定結果を正解として画像を学習させる a が該当する。教師なし学習は,正解を与えずにデータの構造や特徴を見いだす方式であり,購買の傾向が似た顧客をグループに分けるクラスタリングを行う b が該当する。強化学習は,環境の中で試行を繰り返し,行動の結果として得られる報酬が最大となる方策を学習する方式であり,搬送時間の短さを評価として動作を改善させる c が該当する。活用の目的に応じて,正解データを用意できるかどうかや,試行の環境を用意できるかどうかを踏まえて方式を選ぶ。

  9. 問9
    LLM の出力のランダム性を制御するパラメータのうち,Top-p の説明として,最も適切なものはどれか。
    1. 1次に出力するトークンの候補を,出現確率が高い順に指定した個数だけに絞り込み,その中から次のトークンを選ぶ。
    2. 2各トークンの出現確率の分布の鋭さを調整し,値を小さくするほど確率の高いトークンが選ばれやすくなるようにする。
    3. 3確率の高い順に並べた候補トークンのうち,確率の累計が指定した値に達するまでに絞り込み,その中から選ぶ。
    4. 4生成する文章の長さの上限を指定し,出力したトークンの数がその値に達した時点で文章の生成を打ち切るようにする。
    答えと解説

    正解: 3

    Top-p は,次のトークンの候補を確率の高い順に並べ,確率の累計が指定した値 p に達するまでの候補だけを残して,その中から次のトークンを選ぶ方式であり,核サンプリングとも呼ばれる。確率の分布に応じて候補の数が変わるのが特徴である。候補を確率の高い順に一定の個数に絞り込むのは Top-k である。確率の分布の鋭さを調整し,小さくするほど確率の高いトークンが選ばれやすくなるのは Temperature である。いずれも値を小さくするほど出力が安定し,大きくするほど多様になる。出力の長さの上限を指定するのは最大トークン数の設定であり,ランダム性を制御するものではない。

  10. 問10
    ある製造業の企業では,製品の設計文書を生成 AI で要約する仕組みを導入したい。社内規程により,設計文書の内容は社外のネットワークに送信してはならないとされている。この要件を満たす方法として,最も適切なものはどれか。
    1. 1入力データをモデルの学習に利用しないことを利用規約で明示しているクラウドの生成 AI サービスを選び,その API を通じて設計文書を送信して要約させる。
    2. 2重みが公開されている言語モデルを入手して自社のサーバで動作させ,設計文書の受渡しから要約の生成までを自社の設備の中だけで完結させる。
    3. 3設計文書に含まれる製品名や型番などの固有名詞を別の記号に置き換えてから,外部の生成 AI サービスに送信して要約させ,結果を元の名称に戻す。
    4. 4国内のデータセンタで処理を行うクラウドの生成 AI サービスを選び,通信を暗号化したうえで設計文書を送信して要約させる。
    答えと解説

    正解: 2

    設計文書を社外のネットワークに送信できないという要件では,外部のクラウドサービスを利用する方法は採れない。重みが公開されたオープンウェイトのモデルなどを自社のサーバで動作させるローカル LLM であれば,データを社外に出さずに要約を行える。一方で,計算資源の確保やモデルの更新,性能の評価を自社で担う必要がある点も併せて検討する。入力を学習に利用しないクラウドサービスでも,設計文書は社外に送信される。固有名詞を置き換えても,設計の内容そのものは社外に送信される。国内のデータセンタで処理し通信を暗号化しても,設計文書が社外のネットワークに送信されることに変わりはない。

  11. 問11
    業務を自律的に遂行する AI エージェントを導入する際の考え方として,適切でないものはどれか。
    1. 1AI エージェントの自律性を生かすため,ガードレールの対象は有害な表現の出力の防止に絞り,法令順守や倫理面の判断は AI エージェント自身に委ねる。
    2. 2発注やメールの送信など,外部に影響を与える操作を AI エージェントが実行する前に,人間が内容を確認して承認する仕組みを設ける。
    3. 3AI エージェントが利用できるツールやシステムへのアクセス権限を,任された業務の遂行に必要な範囲だけに限定しておく。
    4. 4AI エージェントの判断の根拠や実行した操作,人間が介入したかどうかを記録し,後から経緯を追跡して確認できるようにする。
    答えと解説

    正解: 1

    ガードレールは,AI や AI エージェントの入力,出力,行動を監視・制限して望ましくない動作を防ぐ仕組みであり,有害な表現の防止などの安全性への配慮だけでなく,倫理的配慮や法令順守も対象とする。したがって,法令順守や倫理面の判断を対象から外して AI エージェント自身に委ねるという記述は適切でない。AI エージェントは目標の達成に向けて自律的に判断し行動するため,外部に影響を与える操作の前に人間の承認を挟むこと,権限を必要最小限に絞ること,判断の根拠や操作の履歴を記録して追跡できるようにすることが重要である。AI 事業者ガイドライン第 1.2 版でも,人間の判断を介在させる仕組みや権限の適切な設定などが留意事項として示されている。