ローカルLLM

GPT-4o級モデルが自宅のPCで動いた！ ローカルAIの常識を変える「Strata」

ローカルLLMの推論エンジン「Strata」を実機で検証。GPU・RAM・SSDを活用して巨大モデルを動かし、検索や画像生成へ拡張できる一方、社内運用ではRAM容量と複数人利用時の待ち時間が課題...

Hugging FaceのローカルLLMモデル名「Q4_K_M」「A3B」の読み方と失敗しない選び方

Hugging FaceのローカルLLMモデル名「Q4_K_M」「A3B」の読み方と失敗しない選び方：Tech TIPS Hugging FaceでローカルLLMを探すと、「Qwen3.8-27...

12GB VRAMで125Bモデルを動かす「Strata」の概要｜npaka

12GB VRAMで125Bモデルを動かす「Strata」の概要をまとめました。 1. はじめにローカルLLMでは、GPUのVRAM容量が大きな制約になります。特に100Bを超えるモデルは、量子...

ローカルLLMのためのメモリ基礎知識｜npaka

ローカルLLMのためのメモリ基礎知識をまとめました。 1. CPU・GPU とメモリ1-1. CPU・GPU・RAM・VRAMの役割PCのスペックでは、 CPU / GPU / RAM / VR...

ローカルLLMで使えるWeb検索まとめ｜npaka

ローカルLLMで使えるWeb検索をまとめました。 1. はじめに最近のローカルLLMは、Tool CallingやAIハーネスのWeb検索機能を使って、Webの最新情報を調べる能力も高くなってい...

ゲーム開発に「ローカルLLM」を取り込む必然性とは？ メインメモリーの96GBをVRAM化するAI特化「DAIV」が示すPCの変革【TGS2026特集】

ASCII.jpの連載『新清士の「メタバース・プレゼンス」』でもおなじみの新清士氏（バリーン・スタジオ Creative Tech Lab.／デジタルハリウッド大学大学院教授）が、「東京ゲームシ...

VRAM容量32GBで30万円未満なIntelグラボ「Intel Arc Pro B70 Creator 32GB」でローカルLLM「Qwen3.8 27B」や動画生成AI「MiniMax H3」を実行して生成速度を確かめてみた

大規模言語モデル(LLM)や画像・動画生成AIを高速実行するにはモデル全体を高速なVRAMに収める必要があります。しかし、AI需要に伴うグラフィックボードの価格高騰によって、VRAM容量32GB...

ゲーム開発に「ローカルLLM」を取り込む必然性とは？ メインメモリーの96GBをVRAM化するAI特化「DAIV」が示すPCの変革【TGS2026特集】

ゲーム開発現場でどこまでローカルLLMや生成AIの実運用が可能なのか。新清士氏が実際に開発で活用している知見を披露。ローカルLLM運用の実践的意義と、そこから見えてきたPCハードウェアのパラダイ...

ローカルLLM利用のクリニックが話題 院長自ら環境を構築 「医療機器より安い」は本当か

ローカルLLMを利用しているクリニックが話題だ。Xユーザーのところてん氏が「病院のWebページ見てたら、（ローカル）LLM利用の注意書きが書いてあってびっくり」と投稿。投稿で引用されているクリニ...

無料のオープンソースAIエージェント「goose」、デスクトップアプリ・CLI・APIなどコード・ワークフロー・その他あらゆる用途に対応

AIエージェントを使い始めると、用途や料金に応じてOpenAI・Claude・Google Gemini・ローカルLLMなどを使い分けたいケースがあります。そこで複数のAIプロバイダーを自由に切...

大金かけて作ったAIを無料公開できるワケ ローカルLLMブームを支えるベンダーと国家の思惑

AIモデルを無料で公開して、企業はどこで稼ぐのか。ローカルLLMの盛り上がりを支えるオープンウェイトモデルには、開発に多くの資金と計算資源が投じられている。それでも公開が続く背景には、GPUやク...

ローカルLLMの波、来てる。メモリ192GB搭載ミニPCが登場。MINISFORUMから

【今月の自作PCレシピ】ゲームもAI動画編集もVRChatもローカルLLMもできる！ 欲望全部乗せPC

秋葉原の主要パーツショップ店員に聞いたオススメパーツ構成を紹介。コスト重視の激安から、最新ゲームをヌルヌル表示でプレイできるゲーミング構成まで、さまざまなPC構成をお届けしよう。

ローカルLLMでどこまでコードが書けるか -LLM基礎知識 / How much code can be written on a local LLM - fundamental knowledge

2026年9月2日に開催された「コーディングのためのローカルLLM勉強会」での登壇資料です。 https://lycorptech-jp.connpass.com/event/402836/

自宅でローカルLLMを動かしてみた ローカルなら実現できる遊びとこだわり | gihyo.jp

『Software Design 2026年9月号』の第1特集「開発の新戦力 ローカルLLM」から第2章「自宅でローカルLLMを動かしてみた」を公開します。本特集のほかの章では、現実的な活用法と...

RTX 4070 TiからRadeon AI PRO R9700へ。32GB VRAMでローカルLLMベンチの値はどう変わったか？ - uepon日々の備忘録

以前、RTX 4070 Ti(12GB)でローカルLLMのベンチマーク定番セットを確立し、12GB VRAMの現在地を記録しました。 uepon.hatenadiary.com そして、前回はG...

ローカルLLMの壁を打ち破る「Unsloth Desktop」登場！　画像生成・コード実行・API化を1つのアプリに統合

画像生成・コード実行・API化を1つのアプリに統合「Unsloth Desktop」登場 クラウド生成AIの普及が進む一方、情報漏えいを防ぎコストを抑えるローカルLLMへの注目が集まっている。本...

ローカルLLMを直接実行できるマイコンボード「Arduino VENTUNO Q」予約販売開始 | gihyo.jp

Arduinoは2026年8月25日、40TOPSの性能を発揮するNPUを備え、Qwen 3、Gemma 4、Qwen 3 VLMなどのローカルLLMを直接実行できるマイコンボード「Arduin...

ローカルLLM向けの NVIDIA GPU の選び方｜npaka

ローカルLLM向けの NVIDIA GPU の選び方をまとめました。 1. はじめにローカルLLMを高速に動かしたい場合、最も有力な選択肢のひとつが「NVIDIA GPU」です。 NVIDIA ...

ローカルLLM向け Mac Studio の選び方｜npaka

ローカルLLM向け Mac Studio の選び方をまとめました。 1. はじめに「Mac Studio」は、Apple Siliconを搭載する高性能デスクトップMacです。 動画編集や3D制...

機密データを自社環境内で処理するAIエージェント

<p><img src="https://ascii.jp/img/2026/08/21/4515602/s/c4333d9de32dbfc8.jpg" width="60" height="6...

【ローカルLLM】国産LLM「LLM-jp-4-33B」と「Qwen3.8-27B」の推論性能比較（RTX 5070 Ti + RTX 3070 Ti） - Qiita

はじめに 先週、LLMCが大規模言語モデル「LLM-jp-4 33B」を公開した。これは約332億パラメーターのDense型のモデルで、今年4月に公開されたMoE型のモデルのDense版に対応す...

ローカルLLM編成が単独のフロンティアAIを超えた日

OpenAI や Anthropic のフロンティアモデルの性能はとてもよいのですが、経済性がよくありません。 日次や週次のレート制限がどれだけあなたを苛立たせたでしょう。 また、毎日の仕事道具...

ローカルLLMも「ネットを検索して回答」できるんだよね。対応してるアプリ3選 | ギズモード・ジャパン

最近、性能の伸びがすごいローカルLLMですが、実はローカルLLMを動かすためのアプリも絶賛進化中。どんどん普段使いしやすくなっています。 特に大きいのが「ローカルLLMにネットを検索させる機能」...

Cloudflareは16年間ずっと同じことをしている。「通り道を支配する」という設計思想を知る

はじめに Cloudflare OSの話を3本書きました。ローカルLLMで三目並べに5ラウンドかけた奮闘記、モデル間の受け渡し設計の話、セキュリティとガバナンスの話。 3本目でこう書きました。「...

ローカルLLMで「Pi」エージェントを動かす

数年前、LLMがコードを書いてくれるようになった当初は、チャットインターフェースでAIとやり取りするのが当たり前でした。しかし、2025年を境にその常識は一変しました。今やチャット形式でのプログ...

ローカルLLMとその動作マシン完全ガイド：閉域環境で最新モデルを動かすために必要なもの | GENSHI AI

「ローカルLLMを導入したいが、実際に何を買えばいいのか分からない」 「本当に医療機関で使えるレベルなのか」 こうした問い合わせが増えています。 本記事では、2026年5月時点で買える代表的なハ...