エッジAI向け半導体の進化、主要プレイヤーの1つHailoの動向

　エッジAIのハードウェア領域の競争は激化している。NVIDIA（詳細は後述）、インテル、AMD、クアルコム、グーグル、アップルなどの大手半導体メーカーに加えて、スタートアップも目覚ましい動きを見せている。特に注目されるのがイスラエル発のHailoだ。 　TechCrunchによると、AI半導体スタートアップの資金調達環境は厳しさを増している。2023年1月から9月までの米国半導体スタートアップの資金調達額は8億8,100万ドルで、2022年同期の17億9,000万ドルから大幅に減少した。 　このような厳しい環境下で、Hailoは2024年3～4月のシリーズCラウンドで1億2,000万ドルの資金調達に成功した。 　Hailoは2017年に設立されたエッジデバイス向けのAI半導体開発スタートアップ。同社の半導体は、一般的なプロセッサと比べて低メモリ、低消費電力でAIタスクの実行が可能で、特に自動車、スマートカメラ、ロボティクスなどオフラインかつバッテリー駆動の環境に適した設計となっている。 　Hailoのミッションは、データセンター以外の場所で、高性能AIを利用可能にすること。同社のプロセッサはこれまで、主に物体検出やセマンティックセグメンテーションなど、コンピュータービジョンモデルを駆動するために活用されてきたが、最近ではエッジデバイスでのLLM利用を目的とした活用も増えているという。 　エッジデバイスでの生成AI利用を可能にしているのが、同社の最新プロダクト「Hailo-10H M.2 Generative AI Acceleration Module」だ。この半導体は、消費電力を3.5～5ワットほどに抑えつつ、40テラ演算／秒（TOPS）の処理ができるモデル。Llama2 7B（70億パラメータ）であれば、1秒あたり10トークンでテキスト生成ができ、Stable Diffusion 2.1であれば5秒以下でテキストから画像を生成できるという。 　従来のAIモデルはクラウドベースのインフラストラクチャに依存しており、レイテンシーの問題などの課題に悩まされているのが現状。Hailoは、クラウドから独立して動作するソリューションを提供することで、これらの課題に対処する構えだ。