Mistral AIモデルの特徴とは？低コストかつ多言語能力に強み

MistralとLlama2のベンチマーク比較（Mistralウェブサイトより）

これに対し、Mistral AIのフラッグシップモデル「Mistral 7B」はパラメータ数が70億という比較的小さなモデルで、より低コストでの運用を可能とする。Mistral 7Bのパフォーマンスは同じパラメータ数を持つメタのLlama2 7Bを圧倒し、最上位のLlama2 70Bに匹敵するベンチマークスコアを叩き出している。 さらにMistral AIは2023年12月、Mistral 7Bの後継モデルとして「Mixtral 8×7B」を発表。これは実質的なパラメータ数が120億となるモデルだが、ほとんどのベンチマークテストで700億パラメータを持つLlama2 70Bを上回る結果を示したのだ。 このMixtral 8×7Bは、英語だけでなく欧州主要言語でもLlama2 70Bのパフォーマンスを上回っており、多言語展開できる可能性も示している。たとえば、Aiモデルの自然言語理解能力を評価するベンチマークテストの1つ「Arc-e benchmark」では、フランス語で58.2％を記録。Llama2 70Bのフランス語におけるスコアは49.9％、Mixtral 8×7Bが10ポイント近く上回ったことになる。このほかドイツ語、スペイン語、イタリア語でもLlama2 70Bのスコアを超える結果となった。 現在生成AI市場では、OpenAIを筆頭に、Anthropic、Cohereなどのクローズドソースモデル開発企業が強い存在感を示しているが、メタがLlama2をリリースしたことでオープンソースプレイヤーへの関心も高まっている。Mistral AIはその中でも際立つパフォーマンスを示しており、台風の目になる可能性も秘めている。同社の今後の動きに注目していきたい。