Helyi AI-chatbot a saját gépeden 15 perc alatt (Ollama)

Az Ollama a legegyszerűbb módja annak, hogy egy nyelvi modell a saját gépeden fusson.

1. Telepítés

Töltsd le a telepítőt az ollama.com oldalról, és futtasd. Linuxon egy parancs:

curl -fsSL https://ollama.com/install.sh | sh

2. Az első modell

Nyiss egy terminált (Windowson: PowerShell), és indíts el egy kisebb modellt:

ollama run llama3.2

Az első indításnál letölti a modellt (pár GB), utána rögtön chatelhetsz vele a terminálban.

3. Melyik modellt válaszd?

• 8 GB RAM: 1–4 milliárd paraméteres modellek (pl. llama3.2, gemma kisebb változatai).
• 16 GB RAM: 7–8 milliárd paraméter is kényelmesen megy.
• Erős videókártya: a nagyobb modellek is gyorsak lesznek.

A modellek listája az ollama.com/library oldalon van; a ollama pull <név> paranccsal töltöd le őket.

4. Szebb felület

Ha a terminál nem kényelmes, az Open WebUI egy ChatGPT-szerű webes felületet ad az Ollama elé.

Pixel Aika: Az első helyi modell elindítása mindig kicsit varázslat. Utána már a te gépeden gondolkodik.

Tipp

A kisebb modellek magyarul gyengébbek, mint angolul. Érdemes több modellt kipróbálni — írd meg alább, nálad melyik vált be!