メモリスによる要約- テキスト指示で衛星画像を編集できるGoogle Earthの機能が公開翌日に撤回された
- 調査記者が国境の難民や病院の爆撃跡を生成、AI検出ツールも欺けることを実演した
- ウォーターマークがあっても、記録が信頼される土台は別のところにある
記録が記録として通用するのは、それが加工されていないと皆が思っているからである。前提が崩れると、中身が正しくても使えなくなる。
Googleは、テキスト指示で衛星画像を編集できるGoogle Earthの機能を、公開の翌日に取り下げた。The Vergeが報じている。木曜に公開され、金曜には止まったことになる。
何が起きたか。この機能は実質的に、テキスト指示で現実世界のAIディープフェイクを作れるものだった。Digital DiggingのHenk van Ess氏は、メキシコ国境付近に難民を、ガザの病院のそばに爆撃によるクレーターを、意図的に生成してみせている。
「判別できる」と「信頼が保たれる」は別
Googleの最初の反応は、技術的な担保を挙げるものだった。Google Earth上でNano Banana 2を使って生成された画像にはデジタル・ウォーターマークが入っており、有害な話題での画像生成は防いでいる、と。
翌日の声明は、立て付けが変わっている。
人々がGoogle Earthを、世界の信頼できる眺めとして独自に信頼していることを、我々は理解している。
そのうえで、地理空間の専門家が有用な用途で使っているのも見た一方、ポリシー違反に見える生成画像のスクリーンショットを共有する人々も見た、として、より強固なガードレールの実装に取り組む間は機能を巻き戻すとした。生成画像がGoogle Earthの主要な体験に他者向けとして現れることはなく、AI生成としてウォーターマークが入っていた点も併せて強調している。
その担保が実際どこまで効くかも、すでに実演されていた。van Ess氏は、Google Earthで生成した動画でHiveのAI検出ツールを欺けることを示している。ウォーターマークがあっても媒体が拡散すること自体は止まらない、という指摘である。
会議記録にも、同じ前提がある
会議の記録が証拠として機能するのも、同じ土台の上にある。録音があり、その録音から起こされたものだ、という前提だ。
だから記録を扱う道具では、どこまでが元の音声で、どこからがAIの出力かが、あとから見分けられる必要がある。メモリスは録音した音声をAIに渡して議事録を作るが、要約と一緒に文字起こしが残る。要約は読むためのもの、文字起こしは確かめるためのもので、役割が違う。「AIがそう書いた」と「本人がそう言った」が同じ画面で混ざると、記録としての強度が落ちる。
Googleが1日で引っ込めたのは、機能の出来が悪かったからではないだろう。信頼のうえに成り立っている道具に、生成物を混ぜたときの引き返しにくさを、公開してから測ったということかもしれない。
あわせて読みたい：
議事録AIを試してみませんか？
難しい設定は不要です。いつもの会議で、録音ボタンを押すだけ。面倒な議事録作成から解放されましょう。
iOS / Android 対応