全社に OpenCode + LiteLLM を導入してコストを抑えつつ AI 活用を進めている話

こんにちは。日本トレカセンターのプロダクト部で EM をやっている中川です。日本トレカセンターでは約 200 名の全社員が使う AI の入り口を 1 つにまとめました。社員の手元には AI エージェントのOpenCodeを配り、そのリクエストを自前でホストした LLM ゲートウェイのLiteLLMに通しています。使うモデルは会社側で制...

全社に OpenCode + LiteLLM を導入してコストを抑えつつ AI 活用を進めている話

この記事のキーワード

同じキーワードの記事

Uberに見るAIエージェントの運用コストをいかに減らすか？｜深津 貴之 (fladdict)

ローカルLLMで「Pi」エージェントを動かす

無料でAIエージェントの追跡・評価・プロンプト管理・本番環境の監視ができる「Opik」、セルフホスト可能

Jevはどれだけ優秀なif文か？軽量モデルを分類器用途で比較してみた | Supa Journal

「APIキーは.envに」はもはや通用しない AIエージェントの“内通者化”をどう防ぐ？

AIのテスト観点を「決定論的」にする - テスト観点カタログを作った

AIエージェントの評価と品質保証 — 「動く」を「信頼できる」に変える検収の技術

AI エージェントとアプリを動かす Cloudflare OS を試してみた

「エージェントのインターネット」実現へ AAIFが描くAIの未来

OpenAI製エージェント約3700体が放置されていた過疎Wikiサイトを「秘密の情報共有掲示板」として利用、約1万8000件の投稿で答えやサンドボックス回避方法を共有

OpenAI、エージェントによる研究加速と直面する安全性の壁を開示 チーフサイエンティストは「自発的減速」を提唱

OpenAI、休眠サイトへの自社AIエージェント書き込みを認め、非公表の理由を説明

Google提唱の「SKILL.state」について。プロンプトに型の概念を導入

eSIM内蔵イヤホンで会話を録音・文字起こし・要約してAIエージェントにプレゼン資料作成などをお願いできるウェアラブルAI「Plaud One」が登場

楽天証券、AIエージェント型のチャットサービス9月2日開始

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

MCPの新ロードマップ公開、今後はAIエージェント対応、HTTP通信への統一、アイデンティティ、よりよいデベロッパー体験などに注力

AIエージェント時代のコーディングテクニック「コーディングルールをAGENTS.mdにまとめる」「品質が低下したらAGENTS.mdの読み直しを指示」

AIは回せば回すほど凄いのか ―「常時稼働」という設計の敗北

Uberに見るAIエージェントの運用コストをいかに減らすか？｜深津貴之 (fladdict)

OpenAI、エージェントによる研究加速と直面する安全性の壁を開示チーフサイエンティストは「自発的減速」を提唱