データマネジメント › Web参考書 › 第3章

AI 利活用(1):人間中心の AI 社会原則・AI 事業者ガイドラインと、識別 AI の利活用目的・学習方式の使い分け

第3章 AI利活用(重点分野) / 節 1

シラバスのキーワード: 人間中心の AI 社会原則AI 社会原則AI-Ready な社会AI 事業者ガイドラインAI 利用者ソフトロー識別 AI仮説検証知識発見原因究明判断支援活動代替教師あり学習による予測教師なし学習によるグルーピング強化学習による意思決定の支援

中分類10「AI 利活用」は第3章の重点分野で、原則及び指針、識別 AI、生成 AI、AI エージェントの四つの小分類から成ります。この節では前半の二つ、国の原則やガイドラインと、判定や予測を行う識別 AI を扱います。DM では AI を作る側ではなく業務で使う側の立場から、「何のために使い、人がどう関わるか」が問われます。

この節の用語(小分類ごと)

AI 利活用の原則及び指針

業務で外部の AI サービスを使う部門は、多くの場合 AI 利用者に当たります。提供者が定めた利用上の留意点を守り、提供者が想定した範囲で使うことが求められます。

識別 AI 利活用

識別 AI は過去の傾向を前提にするので、市場環境が大きく変わったら予測の精度を確かめ、必要なら学習し直します。業務に使う前には、誤った判定が起きたときの影響を見積もっておきます。

試験で問われる観点

関連する節

この節の練習問題(8問)

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

  1. 問1
    “人間中心の AI 社会原則”で示されている“AI-Ready な社会”の説明として,最も適切なものはどれか。
    1. 1サイバー空間とフィジカル空間を高度に融合させたシステムによって,経済発展と社会的課題の解決を両立する,人間中心の社会
    2. 2AI の能力が全ての分野で人間の知能を上回り,技術の進歩を人間が予測したり制御したりすることができなくなった後の社会
    3. 3AI を有効かつ安全に利用できるよう,人,社会システム,産業構造,イノベーションシステム,ガバナンスなどの面で設計し直された社会
    4. 4行政の手続や民間のサービスがデジタルで完結し,紙の書類や対面での手続を必要とせずに,誰もが同じ水準のサービスを受けられる社会
    答えと解説

    正解: 3

    人間中心の AI 社会原則は,AI を有効かつ安全に利用できるよう,人,社会システム,産業構造,イノベーションシステム,ガバナンスなどのあらゆる面で社会をリデザインする“AI-Ready な社会”への変革が必要だとしている。“人”には,AI の長所・短所やデータのバイアスを理解する能力が求められる。サイバー空間とフィジカル空間の融合によって経済発展と社会的課題の解決を両立する社会は Society 5.0 の説明であり,AI-Ready な社会はその実現に必要な変革として位置づけられている。AI が人間の知能を上回って制御できなくなる転換点はシンギュラリティと呼ばれる考え方であり,手続のデジタル完結は行政のデジタル化の目標である。

  2. 問2
    “人間中心の AI 社会原則”で,尊重すべき基本理念として掲げられている三つの価値の組合せとして,適切なものはどれか。
    1. 1人間の尊厳,多様性・包摂性,持続性
    2. 2人間中心,多様性・包摂性,持続性
    3. 3人間中心,公平性,持続性
    4. 4人間の尊厳,公平性,説明責任
    答えと解説

    正解: 1

    人間中心の AI 社会原則は,基本理念として,人間の尊厳が尊重される社会(Dignity),多様な背景を持つ人々が多様な幸せを追求できる社会(Diversity & Inclusion),持続性ある社会(Sustainability)の三つの価値を掲げている。人間が AI に過度に依存せず,AI を道具として使いこなして能力を発揮できることが人間の尊厳の中身とされる。人間中心は基本理念を実現するための七つの AI 社会原則の最初に置かれた原則の名称であり,公平性や説明責任も原則の名称に現れる語で,いずれも基本理念そのものではない。理念と原則の階層を区別して覚えるとよい。

  3. 問3
    業務部門が AI を用いた判定の仕組みを導入する際の対応のうち,人間中心の AI 社会原則や AI 事業者ガイドラインの考え方に照らして,適切でないものはどれか。
    1. 1AI の判定結果は参考情報として扱い,最終的な判断は担当者が行うとともに,判断の理由を顧客や社内に説明できるようにしておく。
    2. 2学習に用いたデータに偏りがあると,特定の属性の人に不利な結果が出るおそれがあるので,属性ごとの判定結果に偏りがないかを確認する。
    3. 3顧客の個人データを AI に入力する前に,その利用が本人に通知・公表した利用目的の範囲内であるかを確認する。
    4. 4AI の判定は提供事業者のシステムが行うので,判定結果について顧客から説明を求められたら,利用した部門ではなく提供事業者に対応を任せる。
    答えと解説

    正解: 4

    人間中心の AI 社会原則の人間中心の原則は,AI の利用に当たっては人が自らどのように利用するかの判断と決定を行うことを求め,結果の責任は AI の開発・提供・利用に関わった関係者が適切に分担して負うべきだとしている。AI 事業者ガイドラインも,AI 利用者は説明を求められた場合に AI 提供者の支援を得て応えることが期待されるとしている。したがって,判定の説明を提供事業者に任せ,利用した部門が責任を負わないとする対応は適切でない。最終判断を担当者が行って理由を説明できるようにすること,データの偏りによる不当な差別を確認すること,個人データの入力前に利用目的の範囲を確認することは,公平性やプライバシー確保の考え方に沿った対応である。

  4. 問4
    総務省と経済産業省の“AI 事業者ガイドライン”で,AI 利用者に位置づけられる事業者の営業部門が,外部の AI サービスを業務に利用する際に取り組むことが望ましい事項として,最も適切なものはどれか。
    1. 1AI サービスに組み込まれた AI モデルについて,学習に用いたデータの収集方法を見直し,必要に応じて再学習させる。
    2. 2AI 提供者が定めた利用上の留意点を守り,提供者が設計において想定した範囲内で AI サービスを利用する。
    3. 3AI サービスを利用する顧客が誤用しないよう,想定されるリスクを評価して,誤用を防ぐ仕組みをサービスに組み込む。
    4. 4ガイドラインの全ての取組事項を,違反すると罰則が科される法的義務として実施し,その状況を国に定期的に報告する。
    答えと解説

    正解: 2

    AI 事業者ガイドラインは,AI の開発・提供・利用に関わる主体を AI 開発者,AI 提供者,AI 利用者に分け,主体ごとに取り組むことが望ましい事項を示している。AI 利用者には,AI 提供者が定めた利用上の留意点を守り,提供者が設計において想定した範囲内で利用することが求められる。学習データを見直してモデルを再学習させるのは AI 開発者,誤用を防ぐ仕組みを組み込んでサービスとして提供するのは AI 提供者の取組である。このガイドラインは法的拘束力のないソフトローであり,取組事項に罰則や国への報告の義務はない。

  5. 問5
    識別 AI の説明として,最も適切なものはどれか。
    1. 1大量の文章や画像を学習し,利用者の指示に応じて新たな文章や画像,音声などを作り出す AI
    2. 2与えられた目標の達成に向けて自ら手順を計画し,外部のツールやシステムを操作しながら作業を進める AI
    3. 3専門家の知識を“もし〜ならば〜”という形式の規則として登録し,規則を順に当てはめて結論を導く仕組み
    4. 4過去のデータから学習したパターンを基に,入力されたデータが属する区分の判定や,数値の予測を行う AI
    答えと解説

    正解: 4

    識別 AI は,過去のデータから学習したパターンを基に,入力されたデータがどの区分に当たるかを判定したり,将来の数値を予測したりする AI であり,不良品の判定,与信の審査,需要予測,顧客のグルーピングなどに用いられる。指示に応じて新たな文章や画像,音声を作り出すのは生成 AI である。目標に向けて自ら手順を計画し,ツールを操作しながら作業を進めるのは AI エージェントである。専門家の知識を規則として登録して当てはめるのはエキスパートシステムなどのルールベースの仕組みであり,データからパターンを学習するものではない。業務で AI を使う際は,目的がどの種類の AI に合うかを最初に見極める。

  6. 問6
    ある小売業の販売企画部門の担当者は,教師あり学習を用いて,来月の商品別の販売数を予測する AI を作りたいと考えている。担当者が学習用のデータを準備する際の考え方として,最も適切なものはどれか。
    1. 1過去の各月について,予測に使う項目(価格,販促の有無,天候など)と,その月の実際の販売数とを対応付けたデータを,十分な期間分そろえる。
    2. 2教師あり学習では AI がデータから自ら正解を見いだすので,実際の販売数は用意せず,価格や販促の有無などの項目のデータだけを大量に集める。
    3. 3予測が当たったときに高い評価を与える報酬の規則を決め,AI が実際の店舗での発注を試行しながら販売数の予測を学ぶようにする。
    4. 4予測の精度を高めるため,予測の対象とする月の実際の販売数から算出した値も,入力に用いる項目に含めて学習させる。
    答えと解説

    正解: 1

    教師あり学習は,入力となる項目と,それに対応する正解(ここでは実際の販売数)の組を学習し,新たな入力に対する値を予測する方式である。そのため,過去の各月の説明に使う項目と実績を対応付けたデータを十分な量そろえることが準備の中心になる。正解を与えずにデータの構造を見いだすのは教師なし学習であり,販売数の予測には実績が必要である。報酬を与えて試行を繰り返すのは強化学習の考え方であり,実店舗で試行させるのは損失のおそれも大きい。予測対象の月の実績から算出した値を入力に含めると,学習時には精度が高く見えても,実際の予測時にはその値が手に入らず使えない。

  7. 問7
    識別 AI の活用例 a〜c と,その主な利活用目的の組合せとして,最も適切なものはどれか。 a 製造ラインで検査員が目視で行っていた外観検査を AI に行わせ,検査員は AI が判定を保留した製品だけを確認する。 b 融資の審査で,AI が算出した返済遅延の可能性を示すスコアを参考にして,審査担当者が融資の可否を決める。 c 解約した顧客と利用を継続している顧客のデータを AI で分析し,解約に結び付いている要因を特定する。
    1. 1a:判断支援,b:活動代替,c:原因究明
    2. 2a:活動代替,b:原因究明,c:判断支援
    3. 3a:活動代替,b:判断支援,c:原因究明
    4. 4a:判断支援,b:原因究明,c:活動代替
    答えと解説

    正解: 3

    活動代替は,人が行っていた作業そのものを AI に任せる目的であり,目視の外観検査を AI に行わせ,人は判定を保留したものだけを確認する a が該当する。判断支援は,AI の出力を判断材料として示し,最終的な決定は人が行う目的であり,スコアを参考に審査担当者が可否を決める b が該当する。原因究明は,起きている事象の背後にある要因を突き止める目的であり,解約に結び付く要因を特定する c が該当する。同じ識別 AI でも,目的によって人の関わり方や求める精度,結果の使い方が変わるので,導入の前に目的を明確にしておく。

  8. 問8
    業務部門で識別 AI を活用する際の考え方として,適切でないものはどれか。
    1. 1教師あり学習による需要予測は過去のデータの傾向を前提としているので,市場環境が大きく変わった後は予測の精度を確かめ,必要に応じて学習し直す。
    2. 2教師なし学習で顧客を分けたグループはデータから客観的に導かれたものなので,各グループの特徴の解釈や施策への使い方を担当者が検討する必要はない。
    3. 3強化学習は試行錯誤を通じて方策を学ぶので,実際の業務で試行するとリスクやコストが大きい場合は,シミュレーションの環境を用意して学習させる。
    4. 4識別 AI の判定を業務に使う前に,誤った判定が起きた場合の影響を見積もり,判定の基準値や人が確認する範囲を決めておく。
    答えと解説

    正解: 2

    教師なし学習によるグルーピングは,正解を与えずにデータの似ている度合いに基づいてグループを作るだけであり,各グループが業務上どのような意味をもつか,どの施策に使えるかは示されない。したがって,解釈や施策の検討を業務担当者が行う必要はないとする考え方は適切でない。業務の知識をもつ担当者がグループの特徴を読み解くことで,初めて販促などに生かせる。教師あり学習の予測は過去の傾向を前提とするので,環境の変化後は精度の確認と再学習が必要になる。強化学習で実業務の試行が難しい場合にシミュレーションを使うこと,誤判定の影響を見積もって基準値や人の確認範囲を決めることは適切である。