生成AIがあっという間に出してくれた回答が、よく調べてみれば根拠のない情報だった、という経験はないでしょうか。これは生成AIのハルシネーションと呼ばれ、AIがもっともらしいのに事実ではない情報を出力する現象を指します。ハルシネーションは「幻覚」を意味し、一見正確に思えても虚偽であることから、実体のない幻のようであることを表しています。
さて、最近では論文の執筆や査読プロセスにもAI使用の影響が表れていますが、世界的に統一された利用方針はまだ策定されておらず、手探りの状態が続いています。実際に査読を行っている先生方からは、執筆に生成AIを使用していると思われる論文が増えている、との声が聞かれます。
そういった声のひとつに、文献欄におけるハルシネーションがあります。
世界中の膨大な数の論文から、AIを使って適切な文献を探すことは一般的になりつつある中で、AIが「それっぽい」文献情報を出力してしまうというハルシネーションが起こってしまうのです。
具体的には、以下のようなハルシネーションがあり得ます。
- 架空の論文の出力：実在しないタイトル・著者・雑誌の情報
- 実在論文の改変：年や巻号の差異や、著者情報の間違いなど
- DOI（電子識別子）の捏造：アクセスのできないDOI
文献情報は、読者にとって研究内容を理解するために不可欠であるだけでなく、引用・被引用を正しく行うという観点でも非常に重要な情報です。不正確な文献情報が出版されてしまうことで、ジャーナルそのものの信頼性にも影響してしまう可能性があります。
研究の誠実性や再現性の担保のためにも、出版前に厳しくチェックすることが求められています。
Seeklでは、こういった出版倫理に関する問題をはじめ、ジャーナル運営でお困りの点にアプローチをしています。国際基準でのめまぐるしい変化に対応していくためにも、どうぞお気軽にご相談ください。