LinkedInが「AIっぽい」を報告できるボタンを追加、長文投稿の41%がAI生成と判定された調査を受けて

文章がうまくなるツールが行き渡ると、うまい文章の価値が下がる。LinkedInで起きているのは、その先の話らしい。

同社は投稿を「AIスロップに見える（Seems like AI slop）」として報告できるボタンを導入した、とThe Vergeが報じている。プラットフォーム上のAIスロップを減らすための一連の更新の一部だという。

背景として引かれている数字が重い。AI検出ツールのPangramの調査では、LinkedInの長文投稿の41%が完全にAIで生成されたものとして判定された。404Mediaが報じた内容である。

最高プロダクト責任者のHari Srinivasan氏は投稿で、AIスロップ対策は全社的な最優先事項であり、本気で取り組んでいると説明している。

何が起きるのか

報告ボタンは投稿の三点メニューに入っており、押すとその投稿は非表示になる。集まった報告はモデルの調整とフィードの改善に使われるという。同時に、AIスロップや全般的に品質の低いコンテンツを判定する分類器も強化し、おすすめ表示やネットワーク外の投稿で見えるAIスロップの量を減らすとしている。自分の投稿がAIの多用で不自然に見えていることを本人に伝える仕組みも試験中だ。

そして踏み込んでいるのは、AIで投稿を「強化」する機能そのものを取りやめる点である。代わりに置かれるのは、文章を校正はするが書き手の声は変えない機能だと、Srinivasan氏は説明している。

何が変わるのか

仕事でLinkedInを発信・ブランディングに使う側にとって効いてくるのは、「バレなければ問題ない」という前提が崩れる点だ。検出精度が上がり報告ボタンという通報導線まで実装されると、AIっぽい文章であること自体が信頼を毀損するコストになる。整えすぎた文章がむしろマイナスに働きうる、という前提の変化を織り込む必要が出てきた。

声を残すか、整えるか

LinkedInが同時に手をつけたのは、検出の精度だけでなく生成の入り口だ。検出は原理的に生成より一歩遅れる。分類器を強化しても、新しい生成モデルが出ればまた似た文章が量産される、といういたちごっこになる。だとすれば優先すべきは報告・検出の精度を上げることではなく、「ワンクリックで文章を均質化する」機能をそもそも標準搭載しないことだ。文章を扱うAI機能を提供する側は、「良くする」ボタンではなく「直す」ボタンを既定に据えるべきだろう。

会議の記録でも、同じ線は引ける。文字起こしの誤変換を直すのは書き手の意図に近づける作業だが、発言をなめらかな書き言葉に整えすぎると、誰が何をどれくらいの確信度で言ったのかが消える。「たぶん来週には出せると思うんですけど」と「来週リリース予定」は意味が違う。だとすれば、会議を録音してAIボイスメモのメモリスに渡すような場面に必要なのは、要約と発言の原文を並べて確認できる状態を既定にすることだ。整えた文面だけを残すと、あとで「言った・言わない」の齟齬が起きたときに検証できない。曖昧さを含む発言と確定した決定事項を文面上で区別して記録する——それは事後対応ではなく、生成する時点の設計で防げる問題である。

41%という数字が示しているのは、たぶん「AIを使う人が多い」ことではない。AIに整えさせた文章が、区別できないほど似てしまったことのほうだろう。似せない設計を先に選ぶか、似てしまってから検出して弾くか——LinkedInは両方に手をつけたが、優先順位を置くべきは後者ではなく前者のほうだ。