ローカル LLM 雑感 (2026-08)

NVIDIA DGX Spark 互換機 (以下 Spark) を 2 台購入し、クラスター起動してローカルで DeepSeek V4 Flash 0731 の運用を開始したので雑感を書いて行く。前提悪いのでそもそもコスパを検討するなら API 利用をすべきなので、コスト面でのメリットはとても薄い。速度まずローカル LLM の一番気になっていた「速度」だが...

ローカル LLM 雑感 (2026-08)

この記事のキーワード

同じキーワードの記事

2026 年 10 月前半の LLM 利用状況

Mac・DGX SparkでLLM推論を最大3倍高速化する「TensorFold」の概要｜npaka

「DeepSeek-V4.1-Flash」が登場、複数テストでClaude Opus 5やGPT-5.6 Solを超える性能のオープンモデル

MacBook Pro 128GB でローカル LLM がついに実用になった ─ Qwen3.8 Flash Next 実測

Gemini 3.7 Flash公開 主力モデルを3週間で更新、性能も大幅向上

AMDのAI開発キット「Ryzen AI Halo」レビューがさっそく登場、約64万円で128GBの超大容量ユニファイドメモリ＆Zen 5CPU＆Radeon 8060S GPUを搭載した強力ミニワークステーション

ローカルLLMとその動作マシン完全ガイド：閉域環境で最新モデルを動かすために必要なもの | GENSHI AI

MicrosoftのSurface Laptop Ultraに搭載された「マグネット式USB Type-Cコネクタ」とは一体何なのか？

DeepSeek V4.1 Flash 1017をUnsloth PRで試す。これはほんとに使える - きしだのHatena

UPDF AI、GPT系の最新モデルとDeepSeek V4.1 Flashへアップデート―論文読解・文献調査・資料整理を支援

DeepSeekの検索APIが登場、1000回のリクエスト成功ごとに0.75ドルで競合より安価

GitHub - kanaworksai-hue/audio-studio-mcp: Local AI BGM and sound effects for Claude Code and any MCP client. Stable Audio 3 on Apple Silicon (MLX) and Windows NVIDIA GPUs (PyTorch). No cloud, no API key.

【レビュー】 【NVIDIA RTX Spark実機レビュー】Arm版Marvel Rivalsでfps最大約1.8倍に

「RTX Spark」でAI動画を生成したら爆速すぎだった＝ASUS「ProArt P14」実機レビュー＝3D性能はRTX5060レベル

【笠原一輝のユビキタス情報局】 フロンティアモデルAIを出先でも！NVIDIA RTX Spark搭載Surface実機レビュー

Windows PC向けNVIDIA製SoC「RTX Spark」の正体が明らかに。Microsoftと共同でゲームへの対応も進める

MSI、RTX Spark搭載のAIノートPC「Prestige N16 Flip AI+ C1XM」を10月23日発売

DGX Sparkでゼロから始めるAIワークステーション リアルタイム文字起こしが可能な「Nemotron 3.5 ASR」で24時間音声メモ化ツールを作ってみた

ASUS「ProArt P16」「ProArt P14」予約開始、NVIDIA RTX Spark N1X搭載のAIノートPC

メモリー128GB版「Surface Laptop Ultra」開封の儀、マグネット式の特殊なUSB Type-Cはどうなっているのか？

Gemini 3.7 Flash公開　主力モデルを3週間で更新、性能も大幅向上

【レビュー】【NVIDIA RTX Spark実機レビュー】Arm版Marvel Rivalsでfps最大約1.8倍に

【笠原一輝のユビキタス情報局】フロンティアモデルAIを出先でも！NVIDIA RTX Spark搭載Surface実機レビュー

DGX Sparkでゼロから始めるAIワークステーションリアルタイム文字起こしが可能な「Nemotron 3.5 ASR」で24時間音声メモ化ツールを作ってみた