みんな感じている「じつはわかりづらい」生成AIの使い道…ビッグテックが爆走中の「使いやすさ向上レース」と沈黙するアップルの「次の手」
NPUとはなにか
NPUは、AIの推論に特化した機構であり、CPUやGPUのように柔軟な使い方はできないが、AIの推論に使われる演算を、より効率的におこなえるという特徴をもつ。 NPUは以前から存在していたもので、これまではおもにスマートフォン向けのプロセッサーに搭載されてきた。音声認識や顔認識、カメラの画質向上などに必要とされていたからだ。 また、PCでもコロナ禍以降のニーズを反映して、ビデオ会議などの背景ぼかしや音声ノイズ除去などの目的で、NPUを搭載する流れがあった。 一方で、従来の用途に限っていえば、そこまで大規模なNPUが必須だったわけではない。一部の例外を除き、搭載されているNPUの規模は大きいものでなくてもよかった。 その状況を変えたのが生成AIだ。 生成AIは、シンプルな画像認識に比べて処理負荷が高く、より高い性能を必要とする。 しかし、デスクトップPCならともかく、スマホやノートPCなどの消費電力の低さが重要視される機器の場合は、NPUを強化してCPU・GPUの負担を減らすことが重要になってくる。
オンデバイスAI搭載PC「Copilot+ PC」
そこでマイクロソフトは、特にノートPCについて、高性能なNPUを搭載するPCを規定し、これに適合する製品向けに「オンデバイスAI」を使ったアプリケーションを提供するフレームワークを用意する。 それが「Copilot+ PC」だ。
なんでも思い出してくれる「Recall」機能
従来のWindowsノートPCの場合、最新のプロセッサーを使っていても、搭載しているNPUの処理能力は10TOPS程度だった。TOPSとは、1秒あたりの演算回数を示す演算性能の指標で、「Tera Operations Per Second」の略称である。 10TOPS程度の処理能力は生成AIの動作を想定しておらず、画像認識などのためのものだった。 だが、Copilot+ PCでは「40TOPS以上のNPU」を搭載していることが義務づけられる。かなりのジャンプアップだ。 この能力は、オンデバイスAIの処理に使われる。さまざまな機能に使えるが、最も典型的な新機能として登場するのが「Recall(日本語版では「回顧」)」とよばれるものだ。 この機能は、簡単にいえば「このあいだPCで見たあれ、どこにやったっけ？」という疑問を解決するためのものだ。 Recallは、PC上でおこなわれた作業のすべてを記録する。そこに日時やキーワード、たとえば「青い服」「赤い車」「3日前に使ったプレゼン資料の中のキャッチフレーズ」といったふんわりした質問を投げかけるだけで、該当する情報が含まれる文書やウェブサイトの情報を見つけ出してくれるのだ。 作業効率の向上にとてもありがたい機能だが、どのように実現しているのか？
