プロフェッショナルデジタルスキル › Web参考書 › 第7章

情報倫理・AI 倫理:デジタルシティズンシップ、XAI と AI ガバナンス、AI のリスク、技術者倫理

第7章 倫理・コンプライアンス / 節 1

シラバスのキーワード: デジタルシティズンシップ責任のリングアテンションエコノミーコンテンツモデレーション説明可能な AI(XAI)LIMESHAPモデルカード責任ある AI(Responsible AI)人工知能の倫理に関する勧告ハルシネーション自動化バイアスシャドーAIスロップスクワッティングホイッスルブローイング

中分類27 は、デジタルを安心・安全に使うための情報倫理・AI 倫理と技術者倫理を扱い、情報倫理・情報モラル、AI 倫理・AI ガバナンス、技術者倫理の三つの小分類から成ります。法令を問う中分類28〜30 に対し、ここでは法に触れなくても避けるべき行動が問われます。

この節の用語(小分類ごと)

情報倫理・情報モラル

AI 倫理・AI ガバナンス

AI のリスク・脅威

技術者倫理

試験で問われる観点

関連する節

この節の練習問題(6問)

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

  1. 問1
    AI のリスクに関する用語とその説明の組合せ a〜c のうち,適切なものだけを全て挙げた組合せはどれか。 a ハルシネーション:生成 AI が,事実と異なる内容や実在しない情報を,もっともらしい表現で出力すること b 自動化バイアス:人が自動化されたシステムの出力を過度に信頼し,その誤りを見落としたり,自らの判断より優先したりすること c シャドーAI:AI が判断の根拠を利用者に示さないまま,内部の処理がブラックボックスの状態で業務に用いられること
    1. 1a,b
    2. 2a,c
    3. 3b,c
    4. 4a,b,c
    答えと解説

    正解: 1

    ハルシネーションは,生成 AI が事実に基づかない内容をもっともらしく出力する現象であり,a は適切である。自動化バイアスは,人が AI などの自動化システムの出力を過信し,誤りを見逃したり自分の判断を退けたりする傾向であり,b も適切である。シャドーAI は,組織の IT 部門などが把握・承認していない AI サービスを従業員が業務で利用することであり,機密情報の漏えいなどのリスクにつながる。判断の根拠が示されないブラックボックス性は説明可能性の課題(XAI はその解決を目指す技術)であり,c は適切でない。したがって,a と b だけを挙げた組合せが正しい。

  2. 問2
    「人工知能の倫理に関する勧告」の説明として,最も適切なものはどれか。
    1. 1経済協力開発機構(OECD)が 2019 年に採択し,2024 年に生成 AI の普及などを踏まえて改訂した,信頼できる AI に関する政府間の原則である。
    2. 2G7 が 2023 年に取りまとめた,高度な AI システムを開発する組織に向けて,リスクの特定・低減や能力の公表など,取るべき行動を示した規範である。
    3. 3UNESCO の総会で 2021 年に全加盟国が採択した,人権と人間の尊厳の尊重などの価値・原則と,データガバナンスや環境などの政策分野を示した規範である。
    4. 42023 年に英国で開かれた AI 安全性サミットで参加国が合意した,フロンティア AI がもたらす重大なリスクへの国際協力を確認する宣言である。
    答えと解説

    正解: 3

    人工知能の倫理に関する勧告は,2021 年 11 月の UNESCO 総会で 193 の加盟国が採択した,AI の倫理に関する初の世界的な規範である。人権と人間の尊厳の尊重などの価値と原則を掲げ,データガバナンス,ジェンダー,環境など,各国が政策として取り組む分野も示している。2019 年に採択され 2024 年に改訂された政府間の原則は OECD の AI 原則,高度な AI システムの開発者に向けた行動の規範は広島 AI プロセスの国際行動規範,英国のサミットでフロンティア AI のリスクを確認した宣言はブレッチリー宣言である。

  3. 問3
    説明可能な AI(XAI)の手法である SHAP の説明として,最も適切なものはどれか。
    1. 1説明したい入力の近くで値を少しずつ変えたデータを作り,その範囲での元のモデルの振る舞いを線形モデルなどの単純なモデルで近似して,予測の根拠を示す。
    2. 2協力ゲーム理論の考え方に基づいて各特徴量の寄与度を求め,その合計が,平均的な予測値と個々の予測値との差に一致するように配分する。
    3. 3画像を分類するニューラルネットワークの勾配の情報を用いて,分類の判断に強く影響した画像の領域を求め,ヒートマップとして元の画像に重ねて表示する。
    4. 4モデルの意図された用途,学習と評価に用いたデータ,性能の評価結果,既知の限界などを,利用者や関係者に向けた文書として整理し公開する。
    答えと解説

    正解: 2

    SHAP(SHapley Additive exPlanations)は,協力ゲーム理論のシャープレイ値を応用し,個々の予測について各特徴量がどれだけ寄与したかを算出する手法である。全特徴量の寄与度の合計が,基準となる平均的な予測値からの差に一致する加法性をもち,個々の予測の局所説明に加え,寄与度を集計してモデル全体の傾向を見る大局説明にも使われる。入力の近傍で単純な代理モデルを学習して近似する手法は LIME,勾配を用いて画像の注目領域を可視化する手法は Grad-CAM,用途や限界などを整理して公開する文書はモデルカードである。

  4. 問4
    ある企業は,過去 10 年間の採用選考の合否データを学習させて,応募書類を評価する AI を開発した。過去の採用者は男性に大きく偏っていたので,学習データから性別の項目を削除したが,試験運用では女性の応募者の評価が男性より低い傾向が見られた。この状況に関する説明として,最も適切なものはどれか。
    1. 1性別の項目を削除した時点で,モデルは性別に関する情報を参照できなくなっているので,評価の差は応募者の能力の差を反映したものと判断してよい。
    2. 2性別と相関する出身校などの項目を学習データから全て削除すれば,代理変数を通じた偏りはなくなるので,属性ごとの評価の差を測る検証は省略できる。
    3. 3LIME などで個々の評価の根拠を示せるようにすれば,評価の偏りそのものも解消されるので,説明機能を追加した上で本番運用に移行すればよい。
    4. 4出身校やサークル活動など性別と相関の強い項目を通じて,過去の判断の偏りを学習した可能性があるので,属性ごとの評価の差を測って検証する。
    答えと解説

    正解: 4

    性別などの配慮すべき属性を学習データから削除しても,出身校,サークル活動,職歴の空白期間など,その属性と相関の強い項目(代理変数)が残っていれば,モデルは過去の採用判断に含まれていた偏りをそのまま学習し得る。このため,属性ごとの評価や選考通過率の差を公平性の指標で測り,原因となる項目の見直しや再学習などで是正する必要がある。相関する項目を削除しても他の項目の組合せから属性を推測し得るので,属性ごとの差の測定は省略できない。説明可能性の手法は判断の根拠を示すものであり,偏りを取り除く機能はない。属性を削除しただけで差を能力の差とみなすのは誤りである。

  5. 問5
    情報倫理に関する用語とその説明の組合せのうち,適切でないものはどれか。
    1. 1アテンションエコノミー:利用者の閲覧履歴などに基づいて表示する情報が選別され,利用者が自分の考えに近い情報ばかりに囲まれるようになる現象
    2. 2デジタルフットプリント:インターネット上の投稿,検索,購買などの活動によって蓄積される記録であり,本人が消去しても複製などにより残り得るもの
    3. 3ドクシング:特定の個人の本名,住所,勤務先などの情報を本人の同意なく調べ上げてインターネット上に公開し,嫌がらせなどにつなげる行為
    4. 4コンテンツモデレーション:プラットフォーム事業者が利用規約などに照らして投稿を審査し,違法・有害な投稿の削除や表示の制限などを行うこと
    答えと解説

    正解: 1

    アテンションエコノミーは,情報があふれる社会では人々の関心や注目(アテンション)が希少な資源となり,それ自体が経済的価値をもって取引の対象となる経済の在り方であり,注目を集めるために刺激の強い情報や偽・誤情報が拡散されやすくなるという問題が指摘されている。閲覧履歴などに基づいて表示される情報が選別され,自分の考えに近い情報に囲まれるようになる現象はフィルターバブルなので,適切でない。デジタルフットプリント,ドクシング,コンテンツモデレーションの説明は,いずれも適切である。

  6. 問6
    技術者倫理におけるホイッスルブローイングと,それを保護する公益通報者保護法に関する記述のうち,適切でないものはどれか。
    1. 1組織の内部で知った法令違反や公衆の安全を脅かす事実について,是正を求めて,組織内の窓口や監督官庁,報道機関などに知らせる行為を指す。
    2. 2公益通報者保護法は,同法の要件を満たす公益通報をしたことを理由とする労働者の解雇を無効とし,降格や減給などの不利益な取扱いを禁止している。
    3. 3公益通報者保護法で保護される通報者には,在職中の労働者のほか,退職してから 1 年以内の者や,事業者の役員も含まれている。
    4. 4報道機関などへの通報は,行政機関への通報と同じく,通報の内容が真実であると信ずるに足りる相当の理由があれば保護の対象となる。
    答えと解説

    正解: 4

    ホイッスルブローイングは,組織の不正を,是正を目的に組織の内外へ知らせる内部告発を指す。公益通報者保護法は,行政機関への通報を,信ずるに足りる相当の理由があれば保護するが,報道機関などへの通報には,それに加えて,第 3 条第 3 号が列挙する場合のいずれかに当たることを求めている。不利益な取扱いや証拠隠滅のおそれがある場合,書面による内部通報から 20 日を経過しても調査の通知が無い場合,生命や身体への危害の急迫した危険がある場合などである。よって,行政機関と同じ要件で保護されるとする記述は適切でない。退職後 1 年以内の者と役員は,2022 年施行の改正で対象に加わった。