家電に説明書機能を持つAIエージェントの搭載が可能に

　eIQ TSSがMCX MCUやi.MX RTといった処理性能がいわゆるMCUレベルとなる製品向けを意識した機能であるのに対し、eIQ GenAIフローは大規模なリソースを要求するイメージが強い生成AIについて、i.MX 9シリーズを搭載するエッジ機器で利用することを想定した機能となる。 　生成AIの代表的なアプリケーションとなるのがLLM（大規模言語モデル）である。LLMを用いたアプリケーション開発では、市販の生成AIサービスをそのまま用いる場合やプロンプトエンジニアリグによる最適な活用の他、既存の生成AIモデルにドメイン固有情報を追加して学習するファインチューニングや再学習などの選択肢もある。ただし、コストや開発の複雑性のバランスから、現時点で最も有力な選択肢になっているのがドメイン固有情報からデータベースを構築し既存の生成AIモデルと組み合わせて使用するRAGである。 　eIQ GenAIフローではLLMのRAGによる最適化を可能とする機能を備えている。例えば、家電に利用説明書に関する質問などに回答するAIエージェントを組み込む場合は、自然言語認識や一般的な受け答えにはオープンソースなど既存のLLMを用い、家電の使い方に関する質問にはRAGで構築したデータベースを読み出して回答する。 　eIQ GenAIフローでサポートするRAGは、LLMとは分離したデータベース形式で管理するためセキュアなチューニングが可能だ。NXP製品向けの最適化も行ってくれる。なお、eIQ GenAIフローは今後、音声の入出力がメインとなるLLMだけでなく画像や動画にも対応しマルチモーダルで利用できるようになるという。 　なお、RAGと組み合わせて使用するLLMとしては、いわゆるパラメーター数が10億台（ビリオンクラス）となる、Llama2-7BやLlama3-8B、Phi-3 Miniなどが想定されている。