中分類27 は、デジタルを安心・安全に使うための情報倫理・AI 倫理と技術者倫理を扱い、情報倫理・情報モラル、AI 倫理・AI ガバナンス、技術者倫理の三つの小分類から成ります。法令を問う中分類28〜30 に対し、ここでは法に触れなくても避けるべき行動が問われます。
この節の用語(小分類ごと)
情報倫理・情報モラル
- デジタルシティズンシップ(新): デジタル社会の一員として、責任をもって積極的に参加する考え方と能力。利用の制限より、良い使い手になることを重視する。
- 情報発信における責任のリング(新): 発信の責任が自分自身、周りの人々、より広い社会へと、意図しない範囲まで及ぶことを同心円で示す考え方。
- ELSI: 新しい技術を社会に実装するときの、倫理的・法的・社会的な課題。
- デジタルフットプリント(新): 投稿、検索、購買などの活動で蓄積される記録。本人が消しても複製などで残り得る。
- マイクロアグレッション(新)/アンコンシャスバイアス(新): 悪意のない言動に表れる小さな差別と、自覚のない思い込み。後者は学習データを通じて AI にも入り込む。
- ドクシング(新): 特定の個人の本名、住所、勤務先などを調べ上げ、同意なく公開して嫌がらせにつなげる行為。
- アテンションエコノミー(新): 関心や注目が希少な資源として取引される経済の在り方。刺激の強い情報や偽・誤情報が広がりやすい。
- コンテンツモデレーション(新): 事業者が利用規約などに照らして投稿を審査し、削除や表示の制限を行うこと。
AI 倫理・AI ガバナンス
- 説明可能な AI(XAI): 判断の根拠を人が理解できるようにする技術。モデル全体の傾向を示す大局説明と、個々の予測の根拠を示す局所説明がある。モデルの仕組み自体の分かりやすさは解釈可能性。
- LIME(新)/SHAP(新): LIME は入力の近傍で単純な代理モデル(新)を学習して局所的に近似する。SHAP は協力ゲーム理論のシャープレイ値(新)で各特徴量の寄与度を配分し、合計が平均的な予測値との差に一致する。集計すれば大局説明にも使える。
- モデルカード(新): 用途、学習・評価のデータ、性能、既知の限界などを整理して公開する文書。
- 人間による監視(新)/人間による最終判断(新)/ヒューマンインザループ(HITL): AI の処理に人が関与し、重要な判断は人が下す設計。
- 責任ある AI(Responsible AI)(新): 公平性、透明性、説明責任などに配慮して AI を開発・運用する考え方。性別などの属性を消しても、相関の強い代理変数(新)を通じて偏りが残り得るので、属性ごとの差を測る。
- AI ガバナンス(新)/AI 利用ポリシー(新)/AI 倫理アセスメント: AI のリスクを受容できる水準に管理する体制、組織内の利用ルール、導入前の倫理面の影響評価。国内の指針は AI 事業者ガイドライン(新)(現行は 2026 年 3 月の第 1.2 版)。
- AI サービスのオプトアウトポリシー: 入力したデータを学習に使わせないための設定や申請の方針。
- 人工知能の倫理に関する勧告(新): 2021 年 11 月に UNESCO 総会で採択された AI 倫理の世界的な規範。人権と人間の尊厳の尊重などの価値と、データガバナンスや環境などの政策分野を示す。
AI のリスク・脅威
- 生成 AI への機密情報・個人情報の入力(新): 保存や学習への利用で漏えいにつながる。規約と設定を確かめ、入力してよい情報を規程で定める。
- 信頼性の課題(新)/倫理・法的リスク(新): 出力の誤りや偏り、著作権や個人情報の侵害、差別的な出力など。
- ハルシネーション: 事実と異なる内容をもっともらしく出力すること。数値や出典は一次資料で確かめる(ファクトチェック)。
- 自動化バイアス(新): 自動化されたシステムの出力を過信し、誤りを見落とす傾向。
- シャドーAI(新): 組織が把握・承認していない AI サービスを従業員が業務で使うこと。
- ディープフェイク: AI で生成・加工した本物と見分けにくい偽の画像、音声、動画。
- フロンティア AI によるリスクと脅威(新): 最先端の汎用 AI の悪用や制御の喪失などの重大なリスク。
- AI スロップ(新)/ワークスロップ(新): 大量に生成された低品質なコンテンツと、体裁だけ整い中身の乏しい AI 生成の業務成果物。手直しの負担を受け手に移す。
- スロップスクワッティング(新): AI が示す実在しないパッケージ名を攻撃者が先に登録し、悪意のあるパッケージを導入させる攻撃。
- AI コスト管理の課題(新): 従量課金の利用料や計算資源の費用が見通しにくく膨らむこと。
技術者倫理
- 技術者の社会的責任: 雇用主や顧客だけでなく社会の安全と利益にも責任を負うこと。ACM(新)の倫理綱領(2018 年版)も公共の利益を職務の中心に置くよう求める。
- パブリックインタレスト(新): 公共の利益。組織の都合より優先して考える。
- ホイッスルブローイング: 組織の不正を、組織内の窓口や行政機関などに通報すること(内部告発)。要件を満たす通報は公益通報者保護法で保護される。
- インフォームドコンセント: 十分な説明を理解した上での同意。
試験で問われる観点
- アテンションエコノミーと、似た情報に囲まれるフィルターバブル、閉じた集団で意見が増幅されるエコーチェンバーの区別。
- SHAP(寄与度の配分)、LIME(局所的な代理モデル)、Grad-CAM(勾配による注目領域の可視化)、モデルカード(文書)の区別。
- 説明可能性の手法は根拠を示すもので、偏りを取り除く機能はない。
- 国際的な規範の区別。UNESCO の勧告(2021 年)、OECD の AI 原則(2019 年採択、2024 年改訂)、広島 AI プロセスの国際行動規範(2023 年、高度な AI の開発者向け)、英国の AI 安全性サミットのブレッチリー宣言(2023 年)。
- シャドーAI は承認されていない利用の問題で、ブラックボックス性は説明可能性の課題。
関連する節
- AI 利活用: 人間中心の AI 社会原則と AI 事業者ガイドライン
- ガバナンス・監査: AI ガバナンスの体制とコンプライアンス
- 情報セキュリティの脅威: プロンプトインジェクションなど AI を狙う攻撃
- ビジネス関連法規: 著作権法と公益通報者保護法