ローカル LLM 雑感 (2026-08)

NVIDIA DGX Spark 互換機 (以下 Spark) を 2 台購入し、クラスター起動してローカルで DeepSeek V4 Flash 0731 の運用を開始したので雑感を書いて行く。前提悪いのでそもそもコスパを検討するなら API 利用をすべきなので、コスト面でのメリットはとても薄い。速度まずローカル LLM の一番気になっていた「速度」だが...

ローカル LLM 雑感 (2026-08)

この記事のキーワード

同じキーワードの記事

MacBook Pro 128GB でローカル LLM がついに実用になった ─ Qwen3.8 Flash Next 実測

Gemini 3.7 Flash公開 主力モデルを3週間で更新、性能も大幅向上

AMDのAI開発キット「Ryzen AI Halo」レビューがさっそく登場、約64万円で128GBの超大容量ユニファイドメモリ＆Zen 5CPU＆Radeon 8060S GPUを搭載した強力ミニワークステーション

Opus 5に迫る「DeepSeek-V4.1-Flash」無償公開、DeepSeekショック再びか

「DeepSeek-V4.1-Flash」発表 値上げから一転「より低コストでフラッグシップ超え」うたう

NVIDIAが「RTX Spark」搭載PCの2026年10月出荷開始を予告

Metaも新AIモデル「Muse Spark 1.3」 1カ月で大幅強化し「Fable 5に匹敵」

グーグル「Gemini 3.8 Flash」登場 3週間で主力モデルを大幅刷新、Opus 5に迫る

ASUSが世界に向けて初の「RTX Spark」搭載ノートPCを正式発表＝16型は100Whバッテリーで1.7kgを実現!!

Geminiの動画解析が進化 “見逃し”減らしトークンも88%削減

LLMのローカル実行ツール「Ollama」が「Claude Desktop」に対応 ～3カ月半ぶりの復活／現時点ではmacOSのみ、Windowsも間もなくサポート

ローカルLLM向けの NVIDIA GPU の選び方｜npaka

「DLSS 4.5」のRay Reconstructionがパワーアップ。RTX SparkやAI技術「NVIDIA ACE」などNVIDIAがGeForce最新情報を明らかに

【ローカルLLM】国産LLM「LLM-jp-4-33B」と「Qwen3.8-27B」の推論性能比較（RTX 5070 Ti + RTX 3070 Ti） - Qiita

なぜいま30Bクラスのオープンモデルが“熱い”のか 「27BパラメータでOpus 4.6超え」も

【やじうまPC Watch】 100万円超のDGX Spark、価格 .comでジャンル別売れ筋ランキング首位に

DeepSeek V4 Flashはベンチマークスコアは高いが実際のタスクでは苦戦しているという指摘、オーケストレーションに課題

Meta、新AIモデル「Muse Spark 1.1」 エージェントタスクやマルチモーダル強化

NVIDIAとセガが7月15日にコラボイベントを開催。ジェンスン・フアン氏が「RTX Spark」を披露

CLI向けブラックボックス E2E テストランナー nao1215/atago を作った話

Gemini 3.7 Flash公開　主力モデルを3週間で更新、性能も大幅向上

「DeepSeek-V4.1-Flash」発表値上げから一転「より低コストでフラッグシップ超え」うたう

LLMのローカル実行ツール「Ollama」が「Claude Desktop」に対応～3カ月半ぶりの復活／現時点ではmacOSのみ、Windowsも間もなくサポート

なぜいま30Bクラスのオープンモデルが“熱い”のか　「27BパラメータでOpus 4.6超え」も

Meta、新AIモデル「Muse Spark 1.1」　エージェントタスクやマルチモーダル強化