Перейти к основному содержимому

LocalAI

LocalAI — это бесплатная альтернатива OpenAI с открытым исходным кодом. В этом руководстве показано, как подключить LocalAI к редакторам ONLYOFFICE в Linux.

Обратите внимание, что установка через Docker также возможна. Чтобы узнать об этом больше, обратитесь к официальному руководству LocalAI.

Шаг 1: Установка LocalAI​

Требования к оборудованию​

КомпонентТребование
ЦПМногоядерный процессор
ОЗУМинимум 8 ГБ; рекомендуется 16 ГБ и более
ХранилищеМинимум 20 ГБ; рекомендуется SSD
ГПНе требуется; поддерживается дополнительное ускорение на ГП (NVIDIA, AMD, Intel)
СетьДля работы не требуется; рекомендуется для скачивания моделей и обновлений

Установка​

curl https://localai.io/install.sh | sh

Шаг 2: Установка нужной модели​

Чтобы установить нужную модель, используйте следующую команду:

local-ai models install name_of_the_model

где name_of_the_model — имя нужной вам модели.

Подробнее о доступных моделях читайте на официальном сайте LocalAI.

Шаг 3: Запуск LocalAI с флагом cors​

Этот шаг необходим, чтобы использовать ИИ-помощника не только локально, но и в вебе.

local-ai run --cors

Кроме того, можно добавить следующую строку в файл /etc/localai.env:

CORSALLOWEDORIGINS = "*"

Шаг 4: Настройка параметров плагина ИИ в ONLYOFFICE​

  1. Для первоначальной настройки обратитесь к нашему руководству по настройке.

  2. Теперь, когда вы подключили LocalAI к редакторам ONLYOFFICE, укажите LocalAI в качестве имени провайдера.

  3. Введите URL http://127.0.0.1:8080, если вы не меняли его при запуске local-ai.

  4. Модели автоматически загрузятся в список — выберите ту, которую вы выбрали ранее на шаге 2 этого руководства.

  5. Нажмите OK, чтобы сохранить настройки.

    LocalAI: настройка