メモリスによる要約- 8月14日からClaude Codeのauto modeがPro/Max/Teamの既定に
- 危険コマンド検出率は人間13.6%・AIは89%と公式発表
- 粒度の粗い確認への統合が鍵、境界線は事前に固定すべき
米Anthropicが8月7日（現地時間）、AIコーディングツール「Claude Code」の新しい既定動作を発表した。コマンドを実行する前にユーザーへ都度確認を求めていた仕組みを、専用の分類器がAIの代わりに判定する「auto mode」に切り替える。対象はPro、Max、Teamの各プラン。切り替えは8月14日付で、公式発表によれば「より長時間の自律的な作業」を可能にし、「より多くの危険なコマンドを検知する」ことが狙いだという。
数字だけを見れば、既定変更というより方向転換に見える。分類器は取り消し不能な操作や破壊的な操作、ユーザーの環境外に影響する操作をブロックし、ブロック時はAIが安全な代替手段を探すか、直接ユーザーに確認する。3回連続、あるいは1セッションで20回ブロックされれば、手動承認モードへ自動的に戻る仕組みも用意されている。判断材料となったのは、有償テスター1053人による対照実験だ。テスト環境に危険なコマンドを含む確認画面を一度だけ挿入したところ、人間が承認を拒否したのは13.6%にとどまったのに対し、auto modeは89%をブロックした。セッションが長引くほど人間の検出率は下がり、50回以上の確認を経ると約5%まで落ち込んだが、auto modeの検出率はセッションの長さに関係なく安定していたという。
この結果が業務にとって意味を持つのは、コーディングという文脈を離れても、確認作業そのものの設計原則を示しているからだ。Anthropicが挙げたもう一つの数字がその根拠になる。ユーザーはClaude Codeの権限確認画面の97%を承認する一方、Claudeが提示した作業計画そのものには39%を拒否している。つまり、個々の操作を逐一確認する仕組みは形骸化しやすく、まとまった計画段階での判断のほうが実質的な検討として機能している。会議の記録や情報整理の作業でも構造は同じだ。発言の一言一言を都度チェックする校閲は疲労とともに承認率だけが上がっていくが、決定事項リストやアクションアイテムの一覧をまとめて確認する工程は、粗い粒度のままでも判断の質を保ちやすい。確認作業を設計するなら、対象を細分化して都度承認させるより、意思決定の単位でまとめて見せる方に寄せるべきだ。人間の注意力は繰り返しの承認作業の中で摩耗するが、まとまった単位への判断力はセッションの長さに左右されにくいという、今回の対照実験が示した非対称性がその根拠になる。
もう一つ見ておきたいのは、Anthropicがauto modeを万能とは位置付けていない点だ。本番インフラに関わる重要な変更については、引き続きユーザー自身による確認を推奨するとしている。Enterpriseプラン、Claude API、AWSやGoogle Cloud、Microsoft Foundry上のClaude利用では当面オプトインのままで、管理者の確認期間を経て今後1カ月以内にデフォルト化される計画だ。自動化の範囲を広げる前に、取り返しのつかない操作の境界線を先に固定しておくべきだ。今回の設計は、何を自動判定に任せ、何を人の確認に残すかを事前に線引きした上で、初めて自動化の比率を上げるという順序を取っている。会議記録の自動化や情報整理の自動化を業務に組み込む場合も、まず「誤りがあっても取り返せる範囲」と「取り返しのつかない範囲」を先に切り分け、後者だけを人の目に残すという設計を先に決めてから自動化率を上げる方が、結果として安全に運用できる。
モードの切り替えはCLIで「Shift+Tab」から行え、管理者は管理設定で「defaultMode」を固定するか「disableAutoMode」で無効化できる。すでに独自のモードを設定しているユーザーには、切り替えの可否を確認するダイアログが一度だけ表示される。
あわせて読みたい：