ARTICLE サブカル
SITE TOP ログイン

RTX 5090でFreeTokenを試してみた。35Bでは不要、120B級MoEでは話が変わる

2026年8月22日時点のFreeToken 0.1.2を、RTX 5090 32GBとRAM 128GBのPCで試しました。 FreeTokenは、Mixture-of-Experts（MoE）モデルのexpertをホストRAMへ置き、必要なexpertだけをGPUへキャッシュしながら推論するサービングエンジンです。狙いはvLLMやllama.cppを単純に高速化することではなく、VRAMに収まらない巨...

はてなテクノロジー 2026年08月22日 10:40

この記事のキーワード

RTX GPU 32GB 高速化 サブカル全般 キャッシュ 128GB RAM 日時点 MoE Mixture FreeToken Mixture-of Mixture-of- llama.cpp llama. 120B級MoE 120B級 ホストRAM サービングエンジン vLLM 巨...
グラフで繋がりを見る

同じキーワードの記事

共有しているキーワードが多い順

FreeToken の概要｜npaka

はてなテクノロジー 08/23 06:39
サブカル全般 FreeToken Mixture-of- Mixture-of Mixture MoE GPU キャッシュ

GitHub - FlashML-org/FreeToken

はてなテクノロジー 08/23 09:18
サブカル全般 FreeToken MoE Mixture-of- Mixture-of Mixture

RTX 5060と32GBメモリ、3年保証まで付いて24万9800円！ マウスコンピューター「G TUNE P6」がAmazonで14％オフ

ASCII.jp 10/19 11:50
RTX 32GB GPU

9万5000円引きでこの装備！ RTX 5070に32GBメモリ、17.3型165HzのLenovo「LOQ」ゲーミングノートPC

ASCII.jp 10/14 13:10
RTX 32GB GPU

MSI「Katana 15 HX」新モデル、RTX 5060搭載で10月15日発売 薄型軽量の15.6型ゲーミングノートPC

ASCII.jp 10/08 03:45
RTX GPU 32GB

MSI「Cyborg 15 Max C2W」発表、RTX 5070・メモリ32GB搭載の15.6型ゲーミングノート

ASCII.jp 10/08 02:45
RTX GPU 32GB

GitHub - Niko1221/Strata: Qwen3.8-Flash-Next (125B MoE) on a 12-24 GB NVIDIA GPU + 64 GB RAM: one-click install for Windows / Linux. Strata inference engine, OpenAI/Anthropic API on localhost, optional image input.

はてなテクノロジー 09/27 13:57
MoE GPU RAM

【本日最終】Core i7-14700HX搭載の実力派！RTX 5060と32GBメモリのゲーミングノートが38%引きの208,800円／Lenovo LOQ 15IRX10がプライムデーでお得に！

ASCII.jp 07/12 15:10
RTX 32GB GPU

RTX 5060＆32GBメモリー搭載G TUNEが24万円台。国内生産・3年保証モデルが14％オフ

ASCII.jp 07/11 12:30
RTX GPU 32GB

20万円前後でここまで載る。RTX5060・メモリ32GB搭載Lenovoゲーミングノートが38％オフ

ASCII.jp 07/08 09:00
RTX GPU 32GB

RTX 5060＋32GB＋1TB！ ASUSの16型ゲーミングノート「TUF Gaming F16」が14％オフの29万9800円

ASCII.jp 10/28 10:50
RTX 32GB

RTX 5060搭載で19万5700円！ Core i7＋1TB SSDのLenovo製ゲーミングノートがAmazonタイムセール対象

ASCII.jp 10/26 02:50
RTX GPU

RTX 5070 Ti×240Hz液晶でゲームも配信も！ MSIの16型ゲーミングノート「Raider 16 HX」発売

ASCII.jp 10/22 05:15
RTX 32GB

RTX 5060搭載で19万9900円！ 32GBメモリー＆1TB SSDを備えるゲーミングPC

ASCII.jp 10/21 11:00
RTX 32GB

PhotoshopなどアドビアプリがRTX Spark最適化 処理速度は最大2倍に

Impress Watch 10/16 06:55
RTX 高速化

RTX 5060を搭載したASUSの16型ゲーミングノートPC「TUF Gaming F16 FX608JMI」がAmazon プライム感謝祭先行セールにて24%オフで販売中

IGN Japan 10/16 06:23
RTX GPU

ASUSのRTX 5070搭載ノートが33％オフの23万4800円！ 「TUF Gaming A16」がプライム感謝祭先行セール

ASCII.jp 10/13 13:00
RTX GPU

約1.98kgのボディーでPCゲームを持ち出す！ RTX 5050搭載のMSI「Cyborg 15」が2万100円引きの17万9700円

ASCII.jp 10/13 09:30
RTX GPU

「AIをいじめないで」Anthropic、Claudeへの虐待を禁止

はてなテクノロジー 10/09 03:48
RTX GPU

Amazon限定のRTX 5060搭載ノートが19万7700円！ Core i7＋144Hz液晶も備えたMSI「Cyborg 15」

ASCII.jp 10/08 11:10
RTX GPU
はてなテクノロジーで元記事を読む