Spis treści

Ollama

Instalacja

dnf install ollama 

Uruchomienie

Na jednej sesji terminala:

ollama serve

Na innej sesji terminala:

ollama run llama3:8b

Pierwsze uruchomienie pobiera model. W tym przykładzie około 4GB.

lub

ollama run deepseek-coder:6.7b

Tu pobierze około 3.8GB.