Cover Story：識別子付き言語：AI生成テキストのためのスケーラブルな電子透かし

大規模言語モデル（LLM）は、人工生成テキストのソースとして急速に普及しており、チャットボットなどのツールの動力源として広く使用されている。しかし、AI生成テキストを特定のソースに帰属させるのは困難であり、このため、生成された情報の信頼性に疑問が生じる。今週号ではS Dathathriたちが、AI生成テキストの起源を特定できる、電子透かし埋め込みシステムについて報告している。「SynthID-Text」と名付けられたこのシステムは、新奇なサンプリングアルゴリズムを使ってLLMの単語選択をわずかに変更し、関連する検出ソフトウエアによって認識可能な識別子を挿入する。重要なことに、この技術はLLM生成テキストの品質を低下させることなく電子透かしを入れられる。著者たちは、現時点では電子透かしを回避する方法があると述べる一方で、SynthID-TextはAI生成コンテンツに印を付けるためのスケーラブルな方法が実現可能かつ実用的であることを実証していると主張している。

目次へ戻る