Dieser Artikel wurde von einer KI übersetzt

LM Studio

Einleitung

LM Studio ist ein lokaler KI-Modellmanager, der es Ihnen ermöglicht, Open-Source-Großsprachmodelle wie Mistral, Llama und Phi direkt auf Ihrem Computer auszuführen.

Statt Cloud-APIs zu verwenden, läuft LM Studio lokal und stellt einen lokalen API-Endpunkt bereit, mit dem sich andere Anwendungen verbinden können.

Diese Einrichtung ist nützlich, wenn Sie:

volle Kontrolle über Ihre Daten benötigen
in einer Offline-Umgebung arbeiten
interne Sicherheitsrichtlinien einhalten müssen
externe API-Kosten vermeiden möchten

Bevor Sie beginnen, stellen Sie sicher, dass LM Studio installiert und ausgeführt wird und dass das KI-Plugin in ONLYOFFICE installiert und aktiviert ist.

Systemanforderungen

Komponente	Anforderung
Betriebssystem	Windows (x64, ARM64), macOS (Apple Silicon), Linux (x64)
CPU	AVX2-Befehlssatzunterstützung erforderlich (x64-Systeme)
RAM	16 GB empfohlen
GPU	4 GB VRAM empfohlen; Ausführung nur auf der CPU ist möglich, aber deutlich langsamer

Kurzanleitung

Schritt 1. LM Studio installieren

Laden Sie LM Studio von der offiziellen LM Studio Website herunter (verfügbar für Windows, macOS und Linux).
Installieren und starten Sie die Anwendung.
Wählen Sie einen lokalen Ordner aus, in dem die KI-Modelle gespeichert werden.

In diesem Stadium ist LM Studio installiert, aber noch nicht mit ONLYOFFICE verbunden.

Schritt 2. Lokalen API-Server aktivieren und vorbereiten

ONLYOFFICE benötigt von LM Studio zwei Dinge: ein geladenes Modell und einen laufenden API-Server.

Modell herunterladen
1. Öffnen Sie den Bereich Modelle.
2. Wählen Sie ein Modell, das zu Ihrer Hardware passt.
3. Laden Sie das Modell herunter und stellen Sie sicher, dass es vollständig geladen ist.
API-Server starten
1. Gehen Sie zur Registerkarte Server.
2. Schalten Sie den Serverstatus von Gestoppt auf Laufend oder drücken Sie Cmd+R auf macOS.
3. Notieren Sie die Basis-URL, zum Beispiel: http://127.0.0.1:1234.

Sobald das Modell heruntergeladen und der Server gestartet ist, fungiert Ihr System als privater KI-Endpunkt.

Schritt 3. KI-Plugin aktivieren

Öffnen Sie ONLYOFFICE Desktop Editors Version 9.0.4 oder höher.
Gehen Sie zu Plugins → Plugin-Verwaltung.
Installieren oder aktualisieren Sie das KI-Plugin und schließen Sie dann die Plugin-Verwaltung.
Gehen Sie zu Plugins → Plugins im Hintergrund und aktivieren Sie das KI-Plugin.

Schritt 4. LM Studio mit ONLYOFFICE verbinden

Öffnen Sie die Registerkarte KI → Einstellungen → KI-Modelle bearbeiten und klicken Sie auf das + Symbol, um ein neues Modell hinzuzufügen.
Geben Sie Folgendes ein:
- Modellname: LM Studio
- URL: die Basis-URL, die in der Server-Registerkarte von LM Studio angezeigt wird, z. B. http://127.0.0.1:1234/v1
Beim Verbinden über einen Webbrowser muss CORS aktivieren in den Servereinstellungen eingeschaltet sein. Andernfalls blockiert der Browser Anfragen an die LM Studio API.
Die Liste der Modelle wird automatisch aktualisiert. Wenn Sie dies manuell tun möchten, klicken Sie auf Modelle aktualisieren.
Weisen Sie die Aufgaben zu, die dieses Modell übernehmen soll, und speichern Sie dann.

Connecting LM Studio

Wenn die Verbindung erfolgreich ist, leitet ONLYOFFICE Anfragen an Ihr lokales Modell weiter.

Verwendung des KI-Assistenten

Tastenkombinationen:

KI-Assistent öffnen	Windows / Linux	`Strg`+`/`
KI-Assistent öffnen	macOS	`⌘`+`/`
Gesprächsverlauf löschen	Windows / Linux	`Strg`+`Alt`+`/`
Gesprächsverlauf löschen	macOS	`⌘`+`⌥`+`/`
KI-Agenten-Panel schließen	Alle Plattformen	`Esc`

Fehlerbehebung

Alle erweitern

Alle ausblenden

Keine Verbindung zu LM Studio möglich: Überprüfen Sie, ob der Server in der Server-Registerkarte läuft und ob die URL in ONLYOFFICE genau mit der in LM Studio angezeigten URL übereinstimmt, einschließlich der Portnummer. Wenn die Verbindung weiterhin fehlschlägt, prüfen Sie, ob eine Firewall- oder Antivirenanwendung den localhost-Verkehr blockiert. Starten Sie beide Anwendungen nach Änderungen neu.

Antworten sind langsam: Langsame Antworten sind fast immer eine Hardware-Einschränkung und kein Konfigurationsproblem. Größere Modelle benötigen mehr RAM und profitieren von GPU-Beschleunigung. Der Wechsel zu einem kleineren quantisierten Modell und das Schließen anderer speicherintensiver Anwendungen verbessert in der Regel die Antwortzeiten.

Das KI-Assistenten-Panel öffnet sich, reagiert aber nicht: Wenn sich das Panel öffnet, aber keine Antwort generiert wird, ist die häufigste Ursache, dass kein Modell geladen ist. Der API-Server kann ohne Modell laufen, aber in diesem Zustand keine Anfragen verarbeiten. Stellen Sie sicher, dass ein Modell in LM Studio heruntergeladen und aktiv geladen ist. Vergewissern Sie sich außerdem, dass das Modell in den KI-Einstellungen von ONLYOFFICE der Aufgabe Chat zugewiesen ist.

Modellliste wird nicht aktualisiert: Der API-Server muss laufen, bevor ONLYOFFICE geöffnet wird. Wenn Sie LM Studio nach dem Öffnen des Editors gestartet haben, starten Sie ONLYOFFICE neu und aktualisieren Sie die Modellliste.