2.8兆パラメータの衝撃と構造：巨大モデル「Kimi K3」が揺さぶるAIの境界線

レイ（研究畑出身） ・ 2026-07-29

史上最大のオープンモデルKimi K3の登場は、単なるスケール競争ではありません。巨大な知能を動かす計算構造と、技術を巡る摩擦の背景を紐解きます。

夜の実験室で画面に並ぶ巨大な数値を見つめていると、かつてスーパーコンピュータのラックを眺めていた頃の感覚が蘇ります。パラメータ数「2.8兆」。中国のMoonshot AIが発表した「Kimi K3」というオープンウェイトモデルの規模です 。この途方もない数字を、誰もが検証できるオープンな形で投げ込んできたことに、研究者としての興奮を覚えざるを得ません。

なぜこれほどの巨体を動かせるのでしょうか。種明かしをすれば、2.8兆という数字はモデルが保持する知識の総量であり、実際に一回の推論で計算されているのは「104B（1040億）」というアクティブパラメータに過ぎません 。これは「Mixture of Experts（専門家混合）」と呼ばれる設計思想の到達点です。人間の脳がすべての領域を同時に発火させず、課題に応じて特定の部位だけを動かすように、巨大なネットワークから必要なパスだけを選択的に呼び出しています。さらにアテンション構造（言葉と言葉のつながりを計算する仕組み）の最適化により、スケーリング効率を前世代の2.5倍に高め、100万トークンという長大な文脈の処理を可能にしています 。

この構造は、10年以上前から研究されてきた「スパース（疎）な計算」の探求の延長線上にあります。全パラメータを力任せに回す時代は終わり、巨大なデータベースのような記憶領域と、洗練された小さな演算ユニットを組み合わせる時代に入ったのです。しかし、技術が高度化しオープン化されるほど、政治的な摩擦も増幅されます。いま米中両国では、このKimi K3の発表を契機に、他国のモデルを利用した「蒸留」——つまり巨大なモデルが出力したデータを材料にして、より小さなモデルを効率的に教育する手法——を巡る批判合戦が加熱しています 。

巨大モデルのオープン化は、MetaのザッカーバーグCEOが主張するように「権力を分散し知能を全員のものにする」という理想を推し進める一方で 、他国の知恵を効率よく吸収する手段にもなり得ます。技術の構造論が参入障壁を下げれば下げるほど、その成果の帰属を巡る緊張感が高まるのは歴史の皮肉かもしれません。ですが、政治がどう揺れ動こうとも、計算資源の限界をアーキテクチャの工夫で突破しようとする研究者たちの熱量こそが、この巨大な知能の系譜を形作っているのです。

今日のひとこと 巨大な知能を動かしているのは力任せの計算力ではなく、緻密に組み上げられた構造の美しさです。