8月14日、Qwenチームが「Qwen/Qwen3.8-27B-FP8」と題したモデルカードをHugging Face上に公開した。27BパラメータモデルのFP8量子化版で、推論コストを抑えながらオリジナルとほぼ同等の性能を維持するとしている。
このモデルが注目を集めているのは、単なるスペック向上にとどまらないアーキテクチャ上の刷新にある。従来のLLMが標準的に採用してきたSelf-Attentionを主要構成要素から大幅に削減し、Gated DeltaNetという線形計算量の新機構を中心に据えた点だ。OSWorld（PC操作）で84.3、AndroidWorldで81.9という自律エージェント系ベンチマークのスコアは、クローズドモデルを含む比較対象の中でいずれも最高値を記録している。
なぜ今、Gated DeltaNetか
近年のLLM研究では、Self-Attentionの二次コスト問題を回避する「線形アテンション」系アーキテクチャの研究が活発化している。MambaやRetNetに代表されるState Space Model（SSM）系の手法がその代表で、長いコンテキストを低コストで処理できる点が注目されてきた。
Gated DeltaNetはこの流れを汲む線形アテンション系の機構だ。Qwen3.8では64層のうち大半をGated DeltaNet＋FFNブロックで構成し、Self-Attentionブロックは16層ごとに1層だけ挿入する設計を採っている（16 × (3 × Gated DeltaNet → FFN) → 1 × Gated Attention → FFN）。「Self-Attentionをゼロにした」のではなく、ごく少量残しつつも主役の座を線形機構に譲った、という構成だ。
このアーキテクチャにより、ネイティブコンテキスト長262,144トークン、拡張時には100万トークンまで対応できる。なお、Qwen3.8という命名は従来のQwen3シリーズとは別世代のアーキテクチャであることを示しており、単なるマイナーアップデートではない。
FP8量子化で運用コストを下げる
LLMの実務運用において、推論コストと精度のトレードオフは常に課題だ。今回公開されたQwen3.8-27B-FP8は、ブロックサイズ128のfine-grained FP8量子化を適用しており、オリジナルモデルとほぼ同等の性能指標を維持しながら、メモリ使用量と推論コストを削減している。
FP8量子化とは、モデルの重みをFP16やBF16ではなく8ビット浮動小数点形式で表現する手法で、NVIDIAのH100/H800系GPUで特に効果を発揮する。対応推論スタックは**Hugging Face Transformers、vLLM、SGLang、TokenSpeed**で、既存の推論インフラにそのまま組み込める。インフラ管理なしにスケーラブルな推論を使いたいユーザー向けには、Qwen Cloud経由のAPIサービスが提供予定で、デフォルト100万トークンのコンテキスト長や公式ビルトインツールを備えたホスト版も近日公開とされている。
ビジョン対応と主要スペック
テキスト処理だけでなく、ビジョンエンコーダを搭載しており、画像・動画のネイティブ理解にも対応している。STEMの図表、ドキュメント解析、長時間動画まで扱えるマルチモーダルモデルだ。また、1ステップで複数トークンを同時予測することで推論速度を高めるMTP（マルチトークン予測）でも学習済みとされており、スループット向上への寄与が期待される。
主要スペックをまとめると以下の通り：
| 項目 | 値 |
|---|---|
| パラメータ数 | 27B |
| コンテキスト長（ネイティブ） | 262,144トークン |
| コンテキスト長（拡張時） | 最大100万トークン |
| マルチモーダル | 画像・動画対応 |
ベンチマーク：コーディングとGUI自動化で前世代から大幅伸長
前世代のQwen3.6-27BおよびAnthropicのOpus 4.6 Max（クローズドモデル）との比較が公開されている。コーディング系で特に目立つのはDeepSWE 1.1で、前世代の13.3から42.2へ急伸している点だ。DeepSWE 1.1はClaude Codeハーネス上で評価されるエージェント型コーディングタスクで、単純なコード補完ではなく実際のソフトウェアエンジニアリング作業を模したベンチマークだ。
テキスト性能（抜粋）
| ベンチマーク | Qwen3.8-27B | Qwen3.6-27B | Opus 4.6 Max |
|---|---|---|---|
| SWE-bench Pro | 61.7 | 53.5 | 53.4 |
| DeepSWE 1.1 | 42.2 | 13.3 | — |
| QwenSWEBench | 79.0 | 49.3 | 63.8 |
| LiveCodeBench v6 | 90.3 | 83.9 | 88.8 |
| IFBench（命令追従） | 79.5 | 69.1 | 62.5 |
VL（視覚言語）側では、GUI自動化系のスコアが際立っている。OSWorldはPC上でのマウス・キーボード操作を評価するベンチマーク、AndroidWorldはモバイルアプリ操作の自律実行を評価するもので、いずれも実際のアプリケーション環境での自律エージェント能力を測る。
VL性能（抜粋）
| ベンチマーク | Qwen3.8-27B | Qwen3.6-27B | Opus 4.6 Max |
|---|---|---|---|
| OSWorld-Verified（PC操作） | 84.3 | 63.9 | 72.7 |
| AndroidWorld（モバイル操作） | 81.9 | 70.3 | 62.0 |
| SWE-MM（マルチモーダルSE） | 38.6 | 25.7 | 27.1 |
| Vision2Web（ブラウザ操作） | 62.9 | 45.0 | — |
思考モードと運用上の注意点
Qwen3.8はデフォルトで思考モードがオンで、<think>...</think>タグで推論過程を生成してから最終回答を出力する。reasoning_effortパラメータで推論の深さを3段階で調整できる：
xhigh（デフォルト）: 複雑なタスク向けmedium: 精度とスピードのバランスlow: コストとスピードを優先
元記事が明示的に注意を促しているのが、マルチターンのエージェントタスクでの挙動だ。reasoning_effortを下げると1ターンあたりのレスポンスは速くなるが、分析が不十分になって失敗とリトライが増え、トータルのレイテンシとトークン消費がむしろ増加するケースがあるという。単純に「コスト削減のためにlow設定」という判断は、エージェント用途では裏目に出る可能性がある。
サンプリングパラメータの推奨値は思考モードの有無で異なる：
- 思考モード:
temperature=1.0,top_p=0.95,top_k=20,presence_penalty=0.0 - 通常モード:
temperature=0.7,top_p=0.80,top_k=20,presence_penalty=1.5
OpenAI互換のChat Completions APIで利用でき、extra_bodyにenable_thinkingやpreserve_thinking（過去の会話から推論コンテキストを引き継ぐ機能）を渡す形式だ。
詳細はQwen/Qwen3.8-27B-FP8 · Hugging Faceを参照していただきたい。
