本日はLM Studioの環境構築枠です。
LM Studioを使ってPC上でLLMを実行する方法です。
LM Studio
LM Studioはパソコン上でGPTのような大規模言語モデル(LLM)をローカル実行できるアプリです。
Mac/Windows/Linux環境で実行でき、APIサーバーとしても利用可能です。
lmstudio.ai
LM Studioのインストール
以下の公式ページからインストーラをダウンロードします。
利用環境に合わせて適切なインストーラを選択してください。
lmstudio.ai
LM-Studio-X.X.XX-X-XXX.exeを実行してインストーラを起動します。
インストーラで利用ユーザ、インストール先フォルダを指定して[インストール]を実行します。
これでLM Studioのインストールは完了です。
LM Studioの使い方
LM Studioを起動します。
初回起動時は[Get Started]を選択します。
初めに利用モードの選択肢が表示されます。
User モード
初期状態・初心者向けモードです。
チャットインターフェースのみを表示し、設定やパラメータは自動で最適化されます。
「複雑な設定には触れたくない」「とにかくすぐ使いたい」という方におすすめです。
Power User モード
中級ユーザー向けモードです。
「ロードパラメータ（モデル読み込み時設定）」や「推論パラメータ（温度・トップPなど）」などを自分で調整できます。
また、チャット中の「挿入・編集・続き（insert, edit & continue）」といった高度なチャット機能も使えるようになります。
Developer モード
上級者・開発者向けモードです。全ての機能・ショートカット・開発用設定にアクセス可能です。
キーボードショートカット、モデル設定、デバッグ用機能などを使いたい方に向いています。
たとえば、Unity や Box API 連携、スクリプト経由で LM Studio を使いたい、という場合はこちらを選びます。
モードは後から切り替えることもできます。今回はPower Userモードを選択しました。
lmstudio.ai
次に初めにダウンロードする推奨のLLMが表示されます。
自分でモデルを選択したい場合はスキップします。
ここまでの設定が完了するとLM Studioのメイン画面が開きます。
LM Studioでモデルを利用する
特定のモデルをダウンロードして対話をしてみます。
[Chat]タブを開き、[Select a model to load]を選択します。
検索パネルが表示されるので、検索したいモデルの名前を入力して[Seach]を実行します。
検索結果から目的のモデルを選択して[Download]を実行します。
ダウウンロードが完了したら[Load Model]を選択してモデルを読み込みます。
これでモデルを選択して対話の準備ができました。
チャット欄からコメントを入力することでモデルとの対話ができます。
