Qwen3.8 2.4T A95B (batch)：API料金とローカル実行を比較

**Qwen3.8 2.4T A95B (バッチ)**を使う際は、大規模な非同期処理をホスト型APIに送るか、2.4兆パラメータのモデルを強く量子化して自分で運用するかが大きな選択肢になります。重みは公開されていますが、この規模のローカル運用には相応の設備が必要です。ノートパソコンで手軽に動かす用途とは異なります。

ほとんどのチームは API から始める必要があります。セルフホスティング Qwen3.8 2.4T A95B は、データの配置、持続的なボリューム、カスタム推論、または研究アクセスによって数百ギガバイトの重みと特殊なサービス スタックが正当化される場合に合理的になります。

Qwen3.8 2.4T A95B とは実際には何ですか

公式モデルカード には、2.4 兆の合計パラメーターと 950億の有効化パラメータがリストされています。これは、512 エキスパートを含む疎な専門家混合モデルであり、そのうち 10 ルーティングされたエキスパートと 1つの共有エキスパートがトークンごとにアクティブになります。ネットワークには 92 レイヤーがあり、マルチトークン予測でトレーニングされました。

ネイティブ コンテキストの長さは 262,144 トークンであり、1,010,000 トークンまで拡張できます。オープンチェックポイントはテキストのみであり、常に思考モードを使用します。このリリースでは、マルチモーダル入力と非思考操作はサポートされていません。

最後のポイントにより、よくある名前の間違いを防ぐことができます。 Qwen によると、ホストされる Qwen3.8-Max サービスはこのチェックポイントに基づいていますが、視覚的な入力、非思考サポート、公式ツール、デフォルトで 1M コンテキストなどの機能が追加されています。 Qwen3.8-Max の結果は、オープン Qwen3.8 2.4T A95B チェックポイントの自動的な証拠にはなりませんし、その逆も同様です。

購入決定における「バッチ」の意味

バッチ ワークロードは通常、リクエストがキュー内で待機でき、対話型の応答を必要としないことを意味します。ドキュメント処理、リポジトリの評価、オフライン分類、夜間のレポート生成はそのパターンに当てはまります。アプリケーションは作業を送信し、ID を記録し、後で結果を取得します。

ラベルは別のモデル チェックポイントを作成しません。プロバイダーの処理モードまたは価格設定カタログ エントリを記述する場合があります。エンドポイント、完了期間、キャンセルルール、割引については実際に利用するプロバイダーに確認してください。

現在の Qwen3.8 2.4T A95B (バッチ) 価格トラッカー には、入力トークン 100 万個あたりの $2、出力トークン 100 万個あたりの $6、およびキャッシュされた入力トークン 100 万個あたりの $0.25 がリストされています （2026年8月28日更新）。標準の OpenRouter リスト にも、複数のプロバイダーにわたるモデルが示されています。価格はすぐに変わる可能性があるため、予算をコミットする前にトラッカーを検出ソースとして扱い、選択したプロバイダーの最終料金を確認してください。

バッチコストの例

1 つのオフライン コード分析ジョブが 200,000 入力トークンを送信し、20,000 出力トークンを返すとします。追跡レートでは、新しい入力のコストは $0.40、出力のコストは $0.12 となり、プラットフォーム料金やその他の料金を除くと、ジョブあたり約 $0.52 になります。

その形状で 1 万個のジョブを作成すると、およそ $5,200 のコストがかかります。繰り返されるプレフィックスがキャッシュされた入力の対象となる場合、合計は減少する可能性があります。エージェントが変更されたリポジトリ コンテキストを繰り返し再送信する場合、再送信しない可能性があります。新しいトークンとキャッシュされたトークンを個別に測定します。

バッチの経済性は、トークンの価格だけでなく受け入れにも依存します。 20 パーセントの出力で 2 回目の実行が必要な場合は、その再試行率を含めます。ストレージ、オーケストレーション、検証、レビュー担当者の時間を追加します。ワークフローが使用できない回答を黙って生成する場合、定価を低くしても役に立ちません。

ローカル Qwen3.8 2.4T A95B が難しい理由

「95B active」は、トークンごとの計算を表します。これは、950億個のパラメータのみを保存する必要があるという意味ではありません。完全な 2.4T チェックポイントは依然としてアクセラレータ メモリ、システム メモリ、またはストレージ内に存在し、サービング システム内を移動する必要があります。

BF16 パラメーターごとに 2 バイトとすると、重みだけで算術計算するとおよそ 4.8 テラバイトになります。実行時のオーバーヘッド、KV キャッシュ、一時バッファー、同時実行性、および長いコンテキストがさらに追加します。公式サービス提供ガイダンスでは、運用ワークロード向けの SGLang、vLLM、および TokenSpeed の現在のバージョンを指しています。

積極的な量子化はストレージ要件を変更しますが、動作も変更します。 Unsloth は、397 GB 付近の動的な 1 ビット パッケージを報告します。 LocalLLaMA 実験 では、RTX 5090、RTX 5060 Ti、128 GB の RAM、および 350 GB のスワップを使用してその量子化を使用しました。

著者は、投機的デコードを使用した制御された 32 トークン テストで、1 秒あたり約 0.803 出力トークンを測定しました。この設定を行わない場合、同じ短いテストで 1 秒あたり約 0.775 トークンが測定されました。これは、モデルが混合コンシューマ ハードウェア上で実行できることの印象的な証拠ですが、インタラクティブな運用スループットではありません。著者は、より長いプロンプト、コンテキストの長さ、出力パターン、およびエキスパート ルーティングによって結果が変わる可能性があることを明確に警告しています。

API とローカル推論を並行して実行

初期の品質評価では、モデルの動作をインフラストラクチャの作業から分離するため、ホストされたルートが優先されます。ローカル テストでは、ハードウェア上で選択された量子化が正確で十分に速いかどうかという別の質問に答えることができます。

クラスターの前に評価を構築する

代表的なジョブの固定セットを使用します。単に計画を提案するのではなく、長いコードのコンテキスト、ドキュメントの取得、ツールの使用、およびモデルを完了する必要があるタスクを含めます。最終的な受け入れ、待ち時間、トークンの使用、および人間による修正時間をスコア化します。

ローカル推論の場合は、正確な重みファイル、量子化、ランタイムコミット、コンテキストの長さ、バッチサイズ、同時実行性、サンプリング設定、およびハードウェアを記録します。これらの詳細がなければ、「Qwen3.8 は 1 秒あたり X トークンで実行されました」はほとんど意味がありません。

ホスト型バッチ テストの場合は、コンピューティング時間とは別にキュー時間を記録します。失敗したジョブが課金されるかどうか、バッチをキャンセルできるかどうか、結果がどのように保持されるか、要求が必要なリージョン内に留まるかどうかを確認します。完全なコーパスをアップロードする前に、小さなバッチを実行します。

ライセンスには実際の審査が必要です

Qwen3.8 2.4T A95B は、MIT または Apache 2.0 ではなく、Qwen3.8-Max ライセンス を使用します。このライセンスは、条件付きで、使用、変更、ホスト、微調整、および派生製品の作成に対する広範な権利を付与します。

これらの条件のうち、特定の非常に大規模な製品にはモデル名を表示する必要があり、記載されている収益基準を超える Model-as-a-Service または AI Work Assistant ビジネスには、Qwen からの個別の商用ライセンスが必要です。正確な定義としきい値については、現在のテキストを読んでください。このページは法的なアドバイスではありません。

2 つのルートでは、ライセンスの問題が異なります。ホスト型プロバイダーが重み付けを処理する一方で、独自のサービス規約が API の使用を管理する場合があります。セルフホスト型の展開では、モデル ライセンス、派生製品、およびダウンストリーム製品の動作に対する責任がチームに直接課されます。

どのルートを選択すればよいでしょうか?

ジョブが待機でき、需要が不均一で、推論を所有せずに機能をテストしたい場合は、ホストされた Qwen3.8 2.4T A95B (バッチ) ルートを選択します。これは、ワークロードが大きいものの、高価なハードウェアをビジー状態に保つほど大きくない場合にも実用的な選択肢です。

厳しいデータの場所の要件、安定したワークロード、すでに大規模モデルのサービスを運用しているエンジニア、またはホストされた API では満たせない研究ニーズがある場合は、ローカル推論を検討してください。ワークロードに対応する最小のコンテキストと同時実行性から始めます。最大コンテキストは容量オプションであり、デフォルト設定ではありません。

Yix に適合する場所

Qwen3.8 2.4T A95B はテキスト生成モデルであり、現在 Yix で利用できる画像ジェネレーターではありません。イメージを作成するには、Yix イメージ モデル ディレクトリ を参照します。参照画像を編集可能な生成プロンプトに変換するには、無料の Image to Prompt Generator を使用します。

Qwen3.8 2.4T A95B (バッチ) の決定は、使用率と制御によって決まります。実際のバッチの価格を設定し、その受け入れ率を測定し、それを量子化されたローカル展開の保存、提供、監視、レビューにかかる総コストと比較します。

関連する Qwen およびコーディング モデル ガイド

主要なチェックポイントと小規模な Qwen3.8 Flash および Flash-Next ガイド を比較してください。データ使用条件が決定を左右するコーディング モデルのルートについては、メタ: Muse Spark 1.2 Contributor ガイド をご覧ください。

出典: 公式 Qwen3.8 2.4T A95B モデル カード、Qwen3.8-Max ライセンス、OpenRouter モデル リスト、バッチ価格トラッカー、およびコミュニティのローカル推論実験。

_Qwen はそれぞれの所有者の商標です。 Yix は、Qwen、OpenRouter、CostPerPrompt、または Unsloth とは提携していません。