生成AIを開発するAnthropic社が進行中の著作権訴訟において、自社のAIチャットボット「Claude」が捏造した情報を証拠として提出していたことが判明した。
カリフォルニア州地方裁判所に提出された資料によると、Claudeは実在する論文の正確なリンクや出版年を保持していた一方で、タイトルと著者名を虚偽のものに改変して出力していた。この誤引用は手動での確認作業を経ても見逃され、他の脚注部分にも同様のエラーが複数含まれていたという。
誤引用は、Universal Music Groupなど音楽出版社が提起した著作権侵害訴訟において、Anthropic社員オリビア・チェン氏が専門証人として提出した証言の一部で発見された。裁判所の要請で提出された記録では、Claudeに対して特定の論文の正確な法的引用を生成するよう指示があったが、最終的に生成された内容は不正確であった。
この問題が指摘された後、裁判官スーザン・ヴァン・キューラン氏はAnthropicに説明を求めた。同社は「誤引用であり、意図的な捏造ではない」と主張し、論文自体は実在しており証言の根拠としては妥当だと釈明した。最終的に、同社の弁護士は法廷で正式な謝罪を行うこととなった。
※本記事は、以下の記事をもとに翻訳・要約しています。
THE DECODER「Anthropic is forced to apologize after Claude undercuts its legal team」
コメント
AIが生成した誤った情報が法廷に提出されるという事態が現実に起きています。今回のAnthropicの事例では、AIの誤引用が専門証言として採用され、企業の信頼性にも影響を与えかねない問題となりました。生成AIの活用が広がる中、正確性と透明性をどう担保するかがますます重要になっています。AIの出力をそのまま信頼するのではなく、検証プロセスの強化が今後の課題です。