AIの回答を社外に出す前に見る3点。誤り、権利、機密の混入

AIの回答を社外に出す前に見ることは、3点です。内容の誤り、他人の権利、機密の混入。公的な資料をあたると、出力側で見ることはこの3点に集約できます。

これまでの記事は、すべて入力側の話でした。何を入れてはいけないか、どこに渡るか、どう止めるか。出力側、つまりAIの回答を使うときの話は、ガイドラインの雛形の第7条に1行書いただけです。

根拠にするのは、文化庁、デジタル庁、総務省・経済産業省、東京都などの公的な資料です。法令の解釈を含むので、自社の手順に落とすときは法務の確認を取ってください。

回答の誤りは、固有名詞と数字を一次情報で照合して見つける

取引先向けの説明資料に、AIが答えた法改正の施行日や競合製品の導入社数を、そのまま書いた。誤りが社外に出るのは、こういう場面です。AIの回答は、言い回しが自然なので正しく見えます。東京都の手引きも、表現が自然なため正しいと感じてしまうが、内容が正確とは限らない、と書いています¹。

回答に参考URLが付いていても、それは手がかりです。東京都の手引きは、参考URLや資料を手がかりに確認はできるが、その内容が適切かどうかは保証できない、としています¹。リンクが付いていても、その先にその内容があるとは限りません。

特に危ないのは、AIが学習していない情報です。自社の固有の情報や、最近の出来事がこれに当たります。デジタル庁のガイドブックは、学習データにない情報を聞くと、この問題が確実に発生する、と書いています。例に挙がるのは、デジタル庁のある部署の職員数を聞くと、根拠のない人数を答えることがある、というものです²。学習データにあったとしても、確実に学習できているとは限らない、とも書いています²。根拠がないのにもっともらしい、こうした回答は、ハルシネーションと呼ばれます¹²。

見るのは、固有名詞、数字、日付、引用、法令の条文、URLです。これらは一次情報、つまり公式サイトや原典など元の資料で照合します。文章の流れや言い回しが自然かどうかは、正しさの根拠になりません。

デジタル庁のルールの雛形には、もう1つ実務で使える基準があります。使う本人が、その内容を自分で説明できるかを確かめてから使う。説明できないなら、自分で説明できる表現に言い換える。判断に迷う場合は使わない³。これだけで、分からないまま貼ることはなくなります。

社外に出す前にやることは2つです。固有名詞と数字を元の資料で照合する。自分の言葉で説明できるか確かめる。

他人の権利は、検索で似たものを探し、プロンプトを残して備える

販促用のイラストや、Webに載せるコラムをAIで作ったとします。それがどこかの会社の広告やブログにそっくりなら、相手から使用をやめるよう求められることがあります。

著作権侵害かどうかは、2つの条件で決まります。似ていること（類似性）と、元の作品をもとにしていること（依拠性）です。文化庁が2024年3月に公表した考え方は、こう書いています⁴。

AIで作ったかどうかは関係なく、人が作ったものと同じ基準で判断されます⁴。

依拠性は、自分は知らなかった、では足りません。使った人がその作品を知らなくても、AIがその作品を学習していれば、依拠性は通常あったと推認される、と文化庁は書いています⁴。推認とは、反対の証拠がない限りそう扱われる、という意味です。使う側は、AIが何を学習したかを知りようがありません。だから、似ていないことを自分で確かめるしかありません。

やることは2つです。

1つ目は、似たものを探すこと。文化庁のチェックリストは、生成物を使う前に、インターネット検索で既存の著作物と類似していないか確認する、としています⁵。文章なら文章検索、画像なら画像検索です。

2つ目は、プロンプトを残すこと。同じチェックリストは、依拠性がないことを説明できるようにしておく、と書いています。そのために、生成に使ったプロンプトなど生成の過程を、後から確認できる状態にしておくよう勧めています⁵。逆に、プロンプトに既存の作品そのものや、題名、キャラクター名を入れていると、その作品を知っていたと推認されやすくなります⁵。作家名の入力も同じです¹⁹。

判断が変わる場面が2つあります。

社内で検討している段階と、社外に出す段階は、別の判断です。個人で試す、社内で検討するといった段階の生成は、著作権法が許す範囲に入る場合があります。しかし、公開や納品といった利用の時点では、その範囲を超えて侵害になる場合がある、と文化庁は書いています⁴⁵。社内で見比べるだけなら問題にならなかった画像が、Webに載せた時点で問題になる、ということです。

ロゴ、商品名、キャッチコピーは、著作権とは別に商標も見ます。商標は、商品やサービスの目印として登録された名前やマークです。商標権の侵害には依拠性が要りません。知らずに偶然似た場合でも、同じ種類の商品やサービスに使えば侵害になりえます⁶。日本ディープラーニング協会（JDLA）のガイドラインも、生成したロゴやキャッチコピーを商品や広告に使う前に、登録商標と登録意匠を調べるよう求めています⁹。

責任を負うのは、原則として使った人です⁴。AIを開発・提供した事業者が責任を負う場合もありますが、それは使った人に加えて、です⁴。AIが出した、は理由になりません。

社外に出す前にやることは3つです。検索で似たものを探す。プロンプトを残す。ロゴや商品名は商標も調べる。

機密の混入は、自分が入れていない情報が回答にないかで見る

入力側の機密の話は、これまでの記事で書きました。出力側で見るのは、逆方向です。自分が入れていない情報が、回答に入っていないか。

社内の資料を読み込ませて答えさせる仕組みを入れている会社で起きます。この仕組みは、RAGや社内データ連携と呼ばれます。営業担当が製品について質問したら、人事の資料に書かれた個人の評価が回答に引き写されてきた。質問した人には見せてはいけない資料の中身が、そのまま出てくることがあります。

デジタル庁のガイドラインは、機密情報がプロンプトとして入力され、AIの出力を通じて流出する懸念を挙げています。外部のAIサービスと社内データをつなぐ場合は、特に注意が必要、としています⁷。東京都の手引きは、社内資料を根拠として登録したアプリを作る場合、生成物から不要な機密情報を削除するかマスキングして表示する設定を求めています¹。

個人の情報も同じです。個人情報保護委員会の注意喚起は、回答に不正確な内容の個人情報が含まれるリスクに触れています⁸。実在の人について、AIが作った事実と違う情報をそのまま使ったり出したりすると、名誉毀損や個人情報保護法違反になりうる、とJDLAのガイドラインは書いています⁹。

他社の秘密が出てくることもあります。営業秘密、つまり秘密として管理されていて、公になっていない、事業に役立つ情報です。取引先から秘密保持契約のもとで預かった図面や価格表がこれに当たります。AIの出力に営業秘密が含まれていれば、それを使うことは営業秘密の使用・開示に当たる、と内閣府の検討会（AI時代の知的財産権検討会）は整理しています⁶。

社外に出す前にやることは2つです。自分が入れていない社内情報、個人情報、他社の秘密が回答に入っていないかを見る。入っていたら使わず、情報システム部門に知らせる。デジタル庁の雛形も、特に重大なリスク事象は責任者に報告する、としています³。

確認する人と残す記録は、先に決めておく

承認する側にも基準があります。部下がAIで作った資料を、上司が読まずに通す。これがいちばん危ない形です。AIの出力を疑わずに通してしまうこの傾向は、自動化バイアスと呼ばれます。AI事業者ガイドラインは、その対策の例として、人がAIの判断を承認するときは、承認する理由や根拠を自分で考えてから承認する、という提案を挙げています¹⁰。承認する人は、根拠を1つは自分で確かめてから通します。

規程の1行を、手順に変える

ガイドラインの雛形の第7条は、生成物を業務に用いる前に、内容の誤りと第三者の権利を侵害するおそれを確認し、社外に提供するときは確認した人を記録する、という条文でした。現場が回せる形にしたのが、このチェックリストです。

• 固有名詞、数字、日付、引用、法令の条文、URLを一次情報で照合した
• 自分の言葉で内容を説明できる
• 文章検索か画像検索で、似たものがないことを確かめた
• プロンプトに、既存の作品、題名、キャラクター名、作家名を入れていない
• ロゴ、商品名、キャッチコピーは、商標も別途調べた
• 自分が入れていない社内情報、個人情報、他社の秘密が、回答に入っていない
• プロンプトと、確認した検索結果を残した
• 社外に出すものは、もう1人が見て、確認した人を記録した

慣れれば数分で終わります。この数分を惜しんで出したもので問題が起きると、対応はこの数分では済みません。