ニュースの概要
米Inceptionは、拡散型の大規模言語モデル「Mercury 3」を発表した。同社は、OpenAIの軽量モデル「GPT-6 Luna」やAnthropicの「Claude Haiku 5.5」と比べて、4〜8倍の速さで文章を生成できると主張している。しかも品質は同等以上だという。一般的なAIは文章を先頭から一語ずつ書き足していくが、拡散型は文章全体を粗い下書きから磨き上げるように作る。この違いが速度差の源になっている。ただし数値は同社の発表であり、第三者による検証はこれからである。
引用元: Inceptionの拡散型LLM「Mercury 3」、GPT-6 LunaやClaude Haiku 5.5を上回り4〜8倍速いと主張(BRIDGE(ブリッジ))
分析・見解
一語ずつ書く方式と、全体を磨く方式の違い
現在の主流モデルは、直前までの文章を見て次の一語を決める。これを何百回も繰り返すため、長い文章ほど時間がかかる。作業の途中で並べ替えはできず、前から順に積むしかない。
拡散型は発想が逆である。最初に文章全体を、ぼんやりした下書きとして置く。そこから数回の修正で、全体を同時に整えていく。画像生成AIが「ノイズから絵を浮かび上がらせる」のと同じ考え方を、文章に持ち込んだものだ。複数の箇所を並行して直せるので、計算機の力を無駄なく使える。
速さの本当の価値は、待ち時間より回数にある
4〜8倍という数字を、単に「返事が早くなる」と受け取るのはもったいない。効いてくるのは、AIに何度も考えさせる使い方である。
たとえばAIエージェント(=自分で手順を考えて作業を進めるAI)は、一つの仕事を終えるまでに数十回、モデルを呼び出す。1回が2秒なら合計で1分以上かかるが、0.3秒なら10秒ほどで済む。人が待てる時間に収まるかどうかで、使える業務の範囲が大きく変わる。コード補完や音声通話の応答のように、1秒の遅れが体験を壊す場面でも同じことが言える。
過去の「速いモデル」競争との比較で見える限界
軽量モデルの競争はこれまでも続いてきた。小型化や蒸留(=大きなモデルの知識を小さなモデルに写し取る手法)で、速度と価格は年々改善した。ただし、これらは同じ「一語ずつ書く」方式の枠内での改善である。
Mercuryの特徴は、その枠そのものを変えた点にある。一方で、拡散型には弱点も残る。文章が長くなるほど整合性を保つのが難しく、厳密な推論や長大な文脈では従来方式が優位とされてきた。今回の比較も「軽量モデル同士」であり、最上位モデルとの勝負ではない。ここは冷静に見る必要がある。
本当の勝負は、軽量帯の価格と使い分けに移る
独自の視点を一つ挙げるなら、拡散型の登場でAIの選び方が「賢さ一本」から「役割分担」へ進むことだ。難しい判断は大きなモデルに任せる。大量の定型処理や即答が要る場面は、速いモデルに任せる。この二段構えが、標準的な設計になっていくだろう。今後は各社が自社の軽量帯で、速度と価格を引き下げてくる可能性が高い。
ビジネスへの影響
自社業務のうち、速さが価値になる場所を洗い出す
まず、AIを使っている業務を「待たされると困るもの」と「待ってもよいもの」に分けたい。問い合わせ窓口の自動応答、社内検索の要約、営業メールの下書き候補の大量生成などは前者だ。月次レポートの作成のような作業は後者である。
速度が価値になるのは前者に限られる。すべてを速いモデルへ置き換えると、品質の低下に気づかないまま運用が進むおそれがある。
導入前に、自社データで品質と費用を測り直す
発表された数値は、あくまで提供元の条件での結果だ。導入を検討するなら、実際の業務文書を50〜100件ほど用意し、現在のモデルと並べて比べるとよい。見るのは、誤りの少なさ、指示への忠実さ、1件あたりの費用の三つである。
また、特定の1社に依存しない構成にしておきたい。モデルを切り替えやすい作りなら、新しい方式が成熟した時点で、すぐに乗り換えられる。
小さな試験運用から始め、判断の基準を決めておく
最初は社内向けの用途で、1〜2か月の試験運用をおすすめする。成功の基準を「応答時間が半分になる」「誤りが現状以下」など、数字で先に決めておくことが肝心だ。基準を満たさなければ元に戻す。この進め方なら、新技術の話題に振り回されず、費用対効果を冷静に判断できる。