TAG SEARCH

#ローカルLLM

「#ローカルLLM」に関連する記事(全 2 件)

相場ハック
約8分

【APIコスト90%削減】ローカルLLM(Ollama/vLLM)× クラウドAPI(Groq/Gemini)ハイブリッド開発アーキテクチャ

大量のデータ抽出や要約タスクでクラウドLLM(Claude 3.7 / o3-mini)の課金爆発を防ぐため、ローカルLLMと高速クラウドAPIをインテリジェントに振り分けるハイブリッドバッチ設計を解説します。

相場ハック
約8分

【自作PC・Mac Studio選定】ローカルLLM・Stable Diffusionを快適に動かすVRAM容量とGPU推奨構成

70BパラメータのLLMや動画生成AIをローカルで動かすために必要なGPUのVRAM容量、メモリ帯域幅、NVIDIA vs Apple Silicon(Mac Studio)の費用対効果を解説します。