ローカルLLM
Local LLM / On-device LLM
定義
クラウドではなく、手元のPC・スマホ上で動かす大規模言語モデル。
詳しく
データが外部に送られないためプライバシーに強く、通信不要・従量課金なし。動かせるかは「パラメータ数 × 量子化ビット」で決まるメモリ必要量と、端末の VRAM/RAM 次第。Ollama・llama.cpp・LM Studio などで動かす。
このツールで使われる用語
実際に「ローカルLLM」を扱えるツール
関連する用語
「ローカルLLM」と関連の深い用語
