メインコンテンツまでスキップ

LM Studio

はじめに​

LM Studioは、Mistral、Llama、Phiなどのオープンソースの大規模言語モデルをコンピューター上で直接実行できる、ローカルAIモデルマネージャーです。

LM StudioはクラウドAPIを使用する代わりに、モデルをローカルで実行し、他のアプリケーションが接続できるローカルAPIエンドポイントを公開します。

この構成は、次のような場合に便利です。

  • データを完全に管理する必要がある
  • オフライン環境で作業する
  • 社内のセキュリティポリシーに準拠する必要がある
  • 外部APIのコストを避けたい

開始する前に、LM Studioがインストールされて実行されていること、およびAIプラグインがONLYOFFICEでインストールされ有効になっていることを確認してください。

システム要件​

コンポーネント要件
OSWindows (x64、ARM64)、macOS (Apple Silicon)、Linux (x64)
CPUAVX2命令セットのサポートが必要（x64システム）
RAM16 GB推奨
GPU4 GBのVRAM推奨。CPUのみでの実行も可能ですが、大幅に遅くなります

クイックセットアップ​

ステップ1. LM Studioをインストールする​

  1. LM Studio公式ウェブサイトからLM Studioをダウンロードします（Windows、macOS、Linuxに対応）。
  2. アプリケーションをインストールして起動します。
  3. AIモデルを保存するローカルフォルダーを選択します。

この時点では、LM Studioはインストールされていますが、まだONLYOFFICEに接続されていません。

ステップ2. ローカルAPIサーバーを有効にして準備する​

ONLYOFFICEはLM Studioに2つのものを必要とします。読み込まれたモデルと、実行中のAPIサーバーです。

  1. モデルをダウンロードする

    1. モデルセクションを開きます。
    2. お使いのハードウェアに適したモデルを選択します。
    3. モデルをダウンロードし、完全に読み込まれていることを確認します。

  2. APIサーバーを起動する

    1. サーバータブに移動します。
    2. サーバーの状態を停止から実行中に切り替えるか、macOSではCmd+Rを押します。
    3. ベースURLを控えておきます。例：http://127.0.0.1:1234。

モデルがダウンロードされ、サーバーが実行されると、お使いのシステムはプライベートなAIエンドポイントとして機能します。

ステップ3. AIプラグインを有効にする​

  1. ONLYOFFICEデスクトップエディターのバージョン9.0.4以降を開きます。
  2. プラグイン → プラグインマネージャーに移動します。
  3. AIプラグインをインストールまたは更新してから、プラグインマネージャーを閉じます。
  4. プラグイン → バックグラウンドプラグインに移動し、AIプラグインを有効にします。

ステップ4. LM StudioをONLYOFFICEに接続する​

  1. AIタブ → 設定 → AIモデルの編集を開き、+アイコンをクリックして新しいモデルを追加します。

  2. 次の内容を入力します。

    • モデル名： LM Studio
    • URL： LM Studioのサーバータブに表示されるベースURL。例：http://127.0.0.1:1234/v1
    注記

    Webブラウザー経由で接続する場合は、サーバー設定でCORSを有効にするをオンにする必要があります。これがないと、ブラウザーはLM Studio APIへのリクエストをブロックします。

  3. モデルのリストは自動的に更新されます。手動で更新する場合は、モデルを更新をクリックします。

  4. このモデルに処理させたいタスクを割り当ててから、保存します。

Connecting LM Studio

接続に成功すると、ONLYOFFICEはリクエストをローカルモデルに転送します。

AIアシスタントの使用​

キーボードショートカット：

操作プラットフォームショートカット
AIアシスタントを開くWindows / LinuxCtrl+/
AIアシスタントを開くmacOS⌘+/
会話履歴を消去するWindows / LinuxCtrl+Alt+/
会話履歴を消去するmacOS⌘+⌥+/
AIエージェントパネルを閉じるすべてのプラットフォームEsc

トラブルシューティング​

LM Studioに接続できない

サーバータブでサーバーが実行されていること、およびONLYOFFICEのURLがポート番号を含めてLM Studioに表示されているものと完全に一致していることを確認してください。それでも接続できない場合は、ファイアウォールまたはウイルス対策アプリケーションがlocalhostの通信をブロックしていないか確認してください。変更を加えた後は、両方のアプリケーションを再起動してください。

応答が遅い

応答が遅いのは、ほとんどの場合、設定の問題ではなくハードウェアの制限によるものです。大きなモデルはより多くのRAMを消費し、GPUアクセラレーションの恩恵を受けます。より小さな量子化モデルに切り替え、メモリを多く消費する他のアプリケーションを閉じると、通常は応答時間が改善されます。

AIアシスタントのパネルは開くが応答しない

パネルは開くものの回答が生成されない場合、最も一般的な原因はモデルが読み込まれていないことです。APIサーバーはモデルがなくても実行できますが、その状態ではリクエストを処理できません。LM Studioでモデルがダウンロードされ、実際に読み込まれていることを確認してください。また、ONLYOFFICEのAI設定で、そのモデルがチャットタスクに割り当てられていることも確認してください。

モデルのリストが更新されない

ONLYOFFICEを開く前にAPIサーバーを実行しておく必要があります。エディターを開いた後でLM Studioを起動した場合は、ONLYOFFICEを再起動してモデルのリストを更新してください。