中分類27 は、業務でデータや生成 AI を使うときに、社会や組織への影響を考えて適切に振る舞うための知識で、情報倫理・情報モラルと AI 倫理・AI ガバナンスの二つの小分類から成ります。法令に違反しなくても避けるべき行動が問われ、DM では特に、報告するデータや AI の出力が正しいかを自分で確かめる姿勢が中心です。
この節の用語(小分類ごと)
情報倫理・情報モラル
- データのねつ造: 存在しないデータや結果を作り出すこと。実施していないアンケートの回答を作り、集計して報告するなど。
- データの改ざん: データや結果を変更して、真正でないものに加工すること。仮説に合わない回答を除いて集計するなど。
- 盗用: 他者のアイディア、データ、分析結果などを、了解や適切な表示なく流用すること。他社の調査結果や図表を、出典を示さずに自社の分析として企画書に載せるなど。
- ファクトチェック: 情報の真偽を、公表元の資料などの根拠に当たって確かめること。社内資料の数値や SNS で見た情報も、報告に使う前に確かめる。
- エコーチェンバー: 似た考えの人が集まる閉じた場で、同じ意見が反響するように増幅され、それが正しいと思い込みやすくなる現象。
- フィルターバブル: 閲覧履歴などに基づいてアルゴリズムが情報を選んで表示する結果、自分の関心や考えに合う情報ばかりに囲まれ、異なる情報が見えにくくなる状態。
ねつ造、改ざん、盗用は、文部科学省のガイドラインで研究活動の特定不正行為とされていますが、業務のデータ分析でも同様に許されません。意思決定を誤らせ、組織の信頼を損なうからです。また、自部門の見通しに合う情報ばかりを集めていないか、意識して別の情報源と照らし合わせます。
AI 倫理・AI ガバナンス
- AI のリスク・脅威: AI の出力には、誤った情報や、学習データの偏りを反映した偏った情報が含まれ得る。特定の地域や年齢層に偏った記述が見られたら、他の調査結果と照らし合わせ、結論が偏りの影響を受けていないかを確かめる。
- ハルシネーション: 生成 AI が事実と異なる内容をもっともらしく出力すること。市場規模などの数値、実在しない文献や URL が典型。
- 出典元データの出処を確認することの必要性: AI が示した出典は、実際に開いて実在するか、記述の内容が出典に書かれているかを確かめる。数値は統計の公表元の資料で、値と調査の時点を確かめる。
- AI 倫理: AI の開発や利用で、人間の尊厳、公平性、プライバシー、透明性などを守るための考え方。国内では人間中心の AI 社会原則が基になる。
- AI ガバナンス: AI 事業者ガイドラインでは、AI の利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる正のインパクトを最大化することを目的とした、技術的、組織的、社会的システムの設計と運用をいう。環境やリスクの変化に応じて目標や対策を見直し続けるアジャイル・ガバナンスの考え方をとる。ガイドラインは法的拘束力のないソフトローで、事業者の自主的な取組を促す。
社内の生成 AI の利用ルールも AI ガバナンスの一部です。実務担当者は、ルールに沿って使い、出力を確かめてから業務に使います。
試験で問われる観点
- ねつ造、改ざん、盗用の区別。都合の悪いデータの除外は改ざん、出典を示さない流用は盗用。
- エコーチェンバー(閉じた集団の中で意見が増幅される)と、フィルターバブル(アルゴリズムによって見える情報が偏る)の区別。
- AI の出力が自分たちの見通しと一致していても、正しさの裏付けにはならない。他の情報源との照合を省かない。
- 出典は存在するかだけでなく、内容が一致するかまで確かめる。
- AI ガバナンスは、事故後の補償の仕組みでも、技術部門だけの品質管理でも、行政が認証する制度でもない。
関連する節
- AI 利活用(1)原則・指針と識別 AI: 人間中心の AI 社会原則と AI 事業者ガイドライン
- AI 利活用(2)生成 AI・AI エージェント: 生成 AI の出力の確かめ方とガードレール
- データ分析・データ利活用: 認知バイアスや選択バイアス
- ビジネス関連法規: 盗用と著作権
- より深く学ぶなら: PD 参考書「情報倫理・AI 倫理」: XAI や AI のリスク、技術者倫理を含む、プロフェッショナルデジタルスキル試験の範囲