Ovaj članak je preveden pomoću veštačke inteligencije

Ollama

Ollama je softver otvorenog koda koji omogućava pokretanje popularnih AI modela, npr. Llama 3.2 ili Gemma 2.

Ovo je vodič korak po korak za instalaciju i konfiguraciju Ollama za ONLYOFFICE Docs.

Sistemski zahtevi

Hardverski zahtevi za Ollama zavise od veličine modela koji nameravate da pokrenete:

Veličina modela	RAM
7B	8 GB
13B	16 GB
70B	64 GB

Potrebno je najmanje 4 GB prostora na disku za Ollama binarni fajl. Dodatni prostor je potreban za skladištenje modela, što može varirati od nekoliko GB do stotina GB u zavisnosti od modela.

Preporučuje se posvećeni GPU za prihvatljive performanse. Pokretanje samo na CPU je moguće, ali će rezultirati značajno sporijim vremenom odziva.

Povezivanje i konfiguracija Ollama

(Opcionalno) Instalirajte Homebrew ako je to vaš preferirani način upravljanja paketima na macOS i Linux:
```
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
```
Da biste instalirali Ollama, pokrenite sledeću komandu:
```
curl -fsSL https://ollama.com/install.sh | sh
```
Za Homebrew, pokrenite sledeću komandu:
```
brew install ollama
```
Nakon instalacije, Ollama omogućava komande za servisiranje, listanje, inspekciju i pokretanje modela na vašem računaru.
Pratite ove korake za konfiguraciju Ollama:
1. Pokrenite lokalni AI server pokretanjem sledeće komande u Terminalu:
```
export OLLAMA_ORIGINS=http://*,https://*,onlyoffice://* 
```
2. Pokrenite Ollama sada i restartujte pri prijavi:
```
brew services start ollama
```
3. Alternativno, ako pozadinski servis nije potreban, pokrenite sledeću komandu:
```
ollama serve
```
Preuzmite model koji želite da koristite u drugom Terminal prozoru. Na primer, da instalirate i pokrenete Llama 3.2:
```
ollama run llama3.2
```
Model će biti preuzet i pokrenut lokalno. Ukupan broj instaliranih modela je neograničen. Za listu dostupnih modela, molimo vas da pogledate zvaničnu Ollama dokumentaciju.

Pre instalacije, uverite se da vaš računar ima dovoljno memorije i prostora na disku za modele.
Pratite ovaj vodič za opštu konfiguraciju AI dodatka.
Kada je dodatak instaliran, dodajte AI modele. Idite na karticu AI i otvorite Podešavanja.
Izaberite Uredi AI modele u donjem levom uglu prozora i kliknite Dodaj.
U prozoru koji se pojavi, izaberite Ollama kao provajdera i postavite URL na http://localhost:11434.
Izaberite instalirani model (npr. llama3.2:latest) iz padajuće liste i potvrdite.
U redu ikona, izaberite model koji se koristi za: tekst, slike, ugrađivanje, obradu zvuka, moderaciju sadržaja, zadatke u realnom vremenu, pomoć pri kodiranju i vizuelnu analizu.
Kliknite OK i zatvorite prozor. Model će se pojaviti na listi dostupnih modela u listi AI modela.
Dodelite različite zadatke AI-u. Iz padajuće liste izaberite instalirane AI modele koji će izvršavati ove zadatke.
Pristupite AI funkcijama putem kartice AI ili selektovanjem teksta i desnim klikom za otvaranje kontekstualnog menija.