Silnik do uruchamiania modeli językowych lokalnie. Jedno polecenie pobiera model i pozwala z nim rozmawiać - na Twoim komputerze, bez konta i bez wysyłania danych do chmury.
Czym jest Ollama?
Ollama to darmowy program, który pozwala uruchamiać modele językowe - czyli „mózgi” asystentów AI takich jak ChatGPT - na własnym komputerze. Wpisujesz w terminalu ollama run gemma3, Ollama pobiera model i od razu możesz zadawać pytania. Wszystko działa lokalnie: rozmowy nie wychodzą poza Twój komputer, a po pobraniu modelu internet nie jest potrzebny.
Do wyboru jest biblioteka setek otwartych modeli różnej wielkości: od małych, które działają nawet na laptopie, po duże wymagające mocnej karty graficznej. Ollama działa też jako serwer w tle, z którego korzystają inne programy - np. graficzna nakładka Alpaca, panel sterowania Ollama Manager czy narzędzia dla programistów.
Więcej o lokalnej AI, wymaganiach sprzętowych i wyborze modelu przeczytasz w artykule Własna AI na komputerze.
Dla kogo?
- Dla osób, które chcą korzystać z AI bez wysyłania danych do firm.
- Dla ciekawych, jak działają modele językowe.
- Dla programistów, którzy potrzebują lokalnego modelu w swoich aplikacjach.
Mocne i słabe strony
Zalety
- pełna prywatność - wszystko na Twoim komputerze
- działa bez internetu i bez opłat
- setki modeli, pobieranych jednym poleceniem
- obsługa kart NVIDIA i AMD, a także samego procesora
- inne programy mogą z niego korzystać
Wady
- sam w sobie działa w terminalu - okienka daje dopiero nakładka, np. Alpaca
- lokalne modele są słabsze od największych modeli w chmurze
- większe modele potrzebują dużo pamięci i mocnej karty graficznej
Jak zainstalować
W terminalu wpisz polecenie z oficjalnej strony ollama.com:
curl -fsSL https://ollama.com/install.sh | sh
Skrypt instaluje Ollamę i uruchamia ją jako usługę w tle. To jeden z nielicznych przypadków, gdy polecamy polecenie z curl ... | sh - pochodzi ono z oficjalnej strony projektu. Zawsze sprawdzaj, skąd kopiujesz takie polecenia (więcej w artykule o bezpieczeństwie).
Pierwsze kroki
Uruchom pierwszy model
Wpisz ollama run gemma3 - Ollama pobierze model (kilka GB) i otworzy rozmowę. Pisz pytania, a rozmowę zakończysz poleceniem /bye.
Sprawdź, co masz
ollama list pokazuje pobrane modele, a ollama rm nazwa usuwa niepotrzebny model i zwalnia miejsce.
Ollama to najprostszy sposób na własną AI na Linuksie - jedno polecenie i model działa. Jeśli wolisz okienka zamiast terminala, zainstaluj do niej nakładkę Alpaca albo panel Ollama Manager.
