Perplexity、ローカル完結AIを発表

Perplexityが、データを手元の端末内で処理する「Portable Computer」を発表した。NVIDIAの小型コンピュータ「DGX Spark」上で動作し、モデルは公開モデルの「Qwen 3.8 27B」か、それを追加学習したPerplexity独自の「PPLX 27B」のどちらかを選べる。手元の端末のままGoogle DriveやGmail、Slack、GitHubといった既存ツールとも連携できるという。(Perplexity公式ブログ)

この発表が意味するのは、AIの処理場所という選択肢が増えたことだ。普段使う対話AIの多くは、入力した文章や音声をいったんクラウド上のサーバーに送り、そこで巨大なモデルが処理してから結果を返す。Portable Computerはこの経路を短くし、入力データを手元のハードウェアの中で処理する仕組みを取る。ユーザーが許可すれば、より高度な推論が必要なタスクだけをクラウド側の上位モデルに引き継ぐこともでき、その場合も機密性の高い情報自体は端末内にとどまる設計だという。仕事で扱う文書や会議の内容、顧客とのやり取りなど、社外のサーバーを経由させたくない情報を扱う場面では、この違いが実際の安心感につながる。

この「ローカルで完結する」という利点には、裏返しの制約もある。Portable Computerが選べるモデルはパラメータ数270億クラスで、クラウド型の最先端モデルと比べると小さい部類に入る。一般に、モデルは規模が大きいほど複雑な指示や長い文脈を扱う力が伸びる傾向があるため、ローカル完結を選ぶことは、データを外に出さない安心と引き換えに、応答の賢さでは譲歩する場面が出てくるという取引になる。プライバシーを最優先したい業務と、複雑な分析を任せたい業務とで、クラウド型とローカル型を使い分ける判断が必要になるはずだ。

もう一つ見ておきたいのは、ラインナップの中身が発表時点で全て揃っているわけではない点である。パラメータ数300億のオープンモデル「NVIDIA Nemotron 3.5 Lightning」も選択肢に加わる予定だと案内されているが、これは近日提供予定であり、発表時点ではまだ使えない。AI業界では、発表と実際に手元で使えるようになるタイミングがずれることが珍しくない。この種の製品を評価するときは、発表内容をそのまま鵜呑みにせず、実際に提供が始まってから性能や使い勝手を確かめる姿勢が要る。