データマネジメント › Web参考書 › 第6章

情報倫理・AI 倫理:データのねつ造・改ざん・盗用、ファクトチェック、エコーチェンバーとフィルターバブル、ハルシネーションと出典の確認、AI ガバナンス

第6章 倫理・コンプライアンス / 節 1

シラバスのキーワード: データのねつ造データの改ざん盗用ファクトチェックエコーチェンバーフィルターバブルAI のリスク・脅威ハルシネーション出典元データの出処の確認AI 倫理AI ガバナンスアジャイル・ガバナンスAI 事業者ガイドライン

中分類27 は、業務でデータや生成 AI を使うときに、社会や組織への影響を考えて適切に振る舞うための知識で、情報倫理・情報モラルと AI 倫理・AI ガバナンスの二つの小分類から成ります。法令に違反しなくても避けるべき行動が問われ、DM では特に、報告するデータや AI の出力が正しいかを自分で確かめる姿勢が中心です。

この節の用語(小分類ごと)

情報倫理・情報モラル

ねつ造、改ざん、盗用は、文部科学省のガイドラインで研究活動の特定不正行為とされていますが、業務のデータ分析でも同様に許されません。意思決定を誤らせ、組織の信頼を損なうからです。また、自部門の見通しに合う情報ばかりを集めていないか、意識して別の情報源と照らし合わせます。

AI 倫理・AI ガバナンス

社内の生成 AI の利用ルールも AI ガバナンスの一部です。実務担当者は、ルールに沿って使い、出力を確かめてから業務に使います。

試験で問われる観点

関連する節

この節の練習問題(3問)

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

  1. 問1
    業務でのデータ分析における不正行為のうち,次の a〜c の行為と,その名称の組合せとして,最も適切なものはどれか。 a 調査の結果が仮説に合わなかったので,仮説に合わない回答の一部を除外し,残りのデータだけで集計した結果を報告書に記載した。 b 他社が公表した市場調査の分析結果と図表を,出典を示さずに,自社で独自に分析した結果として社内の企画書に掲載した。 c 予定していた顧客アンケートを実施しなかったが,想定される回答を作成し,実際に収集したデータとして集計して報告した。
    1. 1a:改ざん,b:盗用,c:ねつ造
    2. 2a:ねつ造,b:改ざん,c:盗用
    3. 3a:盗用,b:ねつ造,c:改ざん
    4. 4a:ねつ造,b:盗用,c:改ざん
    答えと解説

    正解: 1

    ねつ造は存在しないデータや結果を作り出すこと,改ざんはデータや結果を変更して真正でないものに加工すること,盗用は他者のアイディア,データ,分析結果などを了解や適切な表示なく流用することであり,研究活動の不正行為として定義されているが,業務でのデータ分析でも同様に許されない。a は,実在するデータから都合の悪い回答を除き,結果を真正でないものにしているので改ざんである。b は,他社の分析結果と図表を出典を示さずに自社のものとして流用しているので盗用である。c は,実施していない調査の回答を作り出しているのでねつ造である。いずれも意思決定を誤らせ,組織の信頼を損なう。

  2. 問2
    業務で生成 AI を用いて市場動向の調査レポートを作成する際の対応として,適切でないものはどれか。
    1. 1生成 AI が出力した市場規模の数値は,もっともらしくても誤っていることがあるので,統計の公表元の資料に当たって数値と調査の時点を確かめた。
    2. 2生成 AI が示した競合他社の動向の出典について,実際に開いて実在することを確かめ,記述の内容が出典に書かれているかも照らし合わせた。
    3. 3生成 AI の出力に特定の地域や年齢層に偏った記述が見られたので,他の調査結果と照らし合わせ,偏りの影響を受けた結論になっていないかを検討した。
    4. 4生成 AI の回答が,自部門が以前から示してきた市場の見通しと一致していたので,他の調査結果との照合を省き,そのまま結論の根拠として採用した。
    答えと解説

    正解: 4

    生成 AI の出力には,事実と異なる内容をもっともらしく示すハルシネーションや,学習データの偏りを反映した記述が含まれることがある。出力が自分たちの見通しと一致していても正しさの裏付けにはならず,都合のよい情報だけを採用すると結論が偏るので,他の情報源との照合を省いて結論の根拠とするのは適切でない。数値を公表元の資料で確かめること,示された出典を開いて実在と内容を確かめること,出力の偏りを他の調査結果と照らし合わせて検討することは,AI の出力データの誤りや偏りへの考慮として,いずれも適切である。

  3. 問3
    総務省と経済産業省の AI 事業者ガイドラインで示されている AI ガバナンスの説明として,最も適切なものはどれか。
    1. 1AI の利用に伴う事故が起きたときに,原因を調べて責任の所在を明らかにし,被害を受けた者への補償の手続を定めておく,事後の対応のための仕組み
    2. 2AI の利活用によるリスクを関係者にとって受容できる水準で管理しつつ,AI がもたらす便益を最大化するための,技術,組織,社会の仕組みの設計と運用
    3. 3AI の開発を担う技術部門が,学習データの収集から AI モデルの評価までの手順を定め,精度の目標を満たしたかを確かめてからモデルを公開する品質管理の仕組み
    4. 4AI に関する法令を国が定め,事業者がその規定を守っているかを行政機関が審査し,認証を与えることによって AI のリスクを管理する仕組み
    答えと解説

    正解: 2

    AI 事業者ガイドラインでは,AI ガバナンスを,AI の利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ,そこからもたらされる正のインパクトを最大化することを目的とした,技術的,組織的,社会的システムの設計と運用としている。環境やリスクの変化に応じて目標や対策を見直し続けるアジャイル・ガバナンスの考え方が採られている。事故が起きた後の原因の調査や補償の手続だけでは,リスクを受容可能な水準で管理し続ける仕組みにならない。技術部門だけの品質管理はガバナンスの一部にすぎず,ガイドラインは法的拘束力のないソフトローとして事業者の自主的な取組を促すもので,行政の認証によるものではない。