LM StudioでのGGUFの使用方法

LM Studioは、ローカルのAIモデルをコンピュータ上で直接実験・開発するためのデスクトップアプリケーションです。LM Studioはllama.cppをベースに構築されており、Mac（Apple Silicon）、Windows、Linuxで動作します！

Hugging FaceからLM Studioにモデルを取得する

まず、Hugging Face の ローカルアプリ設定 で LM Studio を有効にしてください。

オプション1: Hugging Faceから直接「このモデルを使用する」ボタンを使用する

任意の GGUF または MLX LLM について、「Use this model」ドロップダウンをクリックし、LM Studio を選択します。LM Studio がすでにインストールされている場合は、モデルが LM Studio 内で直接実行され、インストールされていない場合はダウンロードオプションが表示されます。

トレンドのモデルで LM Studio を試すには、こちらから探してください: https://huggingface.co/models?library=gguf\&sort=trending

オプション2: LM Studioのアプリ内ダウンローダーを使用する

LM Studio アプリを開き、Mac では ⌘ + Shift + M、PC では Ctrl + Shift + M（M は Models を表します）を押して、任意のモデルを検索できます。検索バーに Hugging Face の URL をそのまま貼り付けることもできます！

各モデルについて、ドロップダウンを展開すると、複数の量子化オプションを表示できます。LM Studio は、お使いのハードウェアに推奨される選択肢をハイライト表示し、どのオプションがサポートされているかを示します。

オプション3: LM StudioのCLIであるlmsを使用する:

ターミナルベースのワークフローを好む場合は、LM Studio の CLI である lms を使用してください。

ターミナルからモデルを検索します:

キーワードで検索

lms get qwen

MLXまたはGGUFの結果で検索を絞り込む

lms get qwen \--mlx  # or \--gguf

Hugging Faceから任意のモデルをダウンロードします:

完全な Hugging Face URL を使用します

lms get https://huggingface.co/lmstudio-community/Ministral-3-8B-Reasoning-2512-GGUF

モデルの量子化を選択

パフォーマンス、メモリ使用量、精度のバランスを考慮して、モデルの量子化レベルを選択できます。

これは@修飾子を使用して行います。例:

lms get https://huggingface.co/lmstudio-community/Ministral-3-8B-Reasoning-2512-GGUF@Q6\_K

モデルをダウンロードしました – 次は何をしますか？

上記のいずれかのオプションに従ってモデルをダウンロードしました。それでは、LM Studioでの作業を始めましょう。

LM Studio アプリケーションの入門

LM Studio アプリケーションでは、モデルローダーに移動してダウンロード済みのモデルのリストを表示し、読み込むモデルを選択します。モデルの読み込みパラメータをカスタマイズすることもできますが、LM Studio はデフォルトで、お使いのハードウェア上でモデルの性能を最適化する読み込みパラメータを選択します。

モデルの読み込みが完了すると（プログレスバーで確認できます）、アプリのチャットインターフェースを使ってチャットを開始できます！

または、LM StudioのCLIを使用してモデルを操作します

コマンドの一覧はこちらを参照してください。lmsを使用するには、LM Studioを少なくとも1回実行する必要があります。

最新モデルの動向を追う

Hugging Face上のLM Studio Communityページをフォローして、最新の優れたローカルLLMのリリース情報をいち早く入手してください。