Come eseguire DeepSeek-R1 in locale: guida pratica con Ollama e quantizzazione

Il rilascio dei modelli di ragionamento open-weights ha rivoluzionato il panorama dell’intelligenza artificiale generativa. In questa guida pratica vedremo come eseguire DeepSeek-R1 in locale sfruttando l’efficienza e la semplicità di Ollama.

Eseguire questi modelli sulla propria macchina garantisce la totale riservatezza dei dati, assenza di costi ricorrenti via API e la possibilità di sperimentare liberamente con il reasoning avanzato senza dipendere da server esterni. Per comprendere a fondo i dettagli tecnici del modello base e le implicazioni per la data sovereignty, puoi consultare la nostra analisi approfondita su architettura, privacy e mercato di DeepSeek.

Requisiti hardware e quantizzazione: quale modello scegliere?

Prima di iniziare, è fondamentale comprendere i requisiti hardware necessari per eseguire DeepSeek-R1 in locale senza saturare la memoria RAM o la VRAM della GPU.

Il modello DeepSeek-R1 originale conta 671 miliardi di parametri (MoE), rendendone impossibile l’avvio su normali workstation senza cluster dedicati. Tuttavia, il team ha reso disponibili versioni distillate basate su architetture Qwen e Llama, quantizzate nativamente tramite formati a 4 o 8 bit (GGUF):

  • DeepSeek-R1 1.5B: richiede circa 2-3 GB di RAM/VRAM. Ottimo per PC entry-level o vecchi portatili.
  • DeepSeek-R1 7B / 8B: richiede almeno 8 GB di RAM unificata o VRAM. Il perfetto equilibrio tra ragionamento logico e consumi per un computer recente.
  • DeepSeek-R1 14B: richiede almeno 12-16 GB di RAM/VRAM. Molto solido su compiti di coding complessi.
  • DeepSeek-R1 32B: richiede almeno 24 GB di memoria (es. Mac M-Series con 32 GB o GPU da 24 GB come RTX 3090/4090).
  • DeepSeek-R1 70B: necessita di almeno 48-64 GB di memoria di sistema.

Se devi installare DeepSeek-R1 sul proprio computer da lavoro, le versioni 8B e 14B offrono il miglior compromesso in termini di token al secondo e profondità logica.

Passaggio 1: Installazione di Ollama

Ollama è la soluzione più immediata e pulita per gestire ed eseguire modelli open-source in locale. Scaricalo in base al tuo sistema operativo:

  • macOS: scarica il pacchetto universale dal sito ufficiale ollama.com o usa Homebrew digitando brew install ollama.
  • Linux: esegui nel terminale curl -fsSL https://ollama.com/install.sh | sh.
  • Windows: scarica l’installer OllamaSetup.exe e segui l’installazione guidata.

Passaggio 2: Download e primo avvio del modello

Una volta installato il runtime, ti basterà un solo comando da terminale per scaricare ed eseguire DeepSeek-R1 in locale nella variante desiderata.

Apri il prompt dei comandi o il terminale e digita per la versione da 8 miliardi di parametri:

ollama run deepseek-r1:8b

Ollama scaricherà automaticamente i file dei pesi quantizzati (formato Q4_K_M per impostazione predefinita) e aprirà una chat interattiva. Noterai subito che il modello include i blocchi <think> ... </think>, dove espone la catena di riflessione passo-passo prima di formulare la risposta finale.

Passaggio 3: Ottimizzazione della quantizzazione e parametri avanzati

Ollama consente di scegliere diversi gradi di quantizzazione se hai esigenze specifiche di accuratezza o memoria. Per esempio, se possiedi una GPU con abbondante memoria e vuoi una quantizzazione meno compressa a 8 bit:

ollama run deepseek-r1:8b-q8_0

Se riscontri lentezza, puoi alleggerire il carico sul computer riducendo il contesto allocato tramite la creazione di un Modelfile personalizzato:

FROM deepseek-r1:8b
PARAMETER num_ctx 4096
PARAMETER temperature 0.6

I parametri consigliati per DeepSeek-R1 suggeriscono di mantenere la temperatura tra 0.5 e 0.7 per evitare loop ripetitivi durante la fase di chain-of-thought.

Conclusioni

Grazie agli strumenti moderni e ai modelli distillati, non è più necessario disporre di infrastrutture enterprise per sfruttare capacità analitiche d’avanguardia. Se oltre alla procedura per eseguire DeepSeek-R1 in locale vuoi analizzare a fondo la struttura interna di questo modello e cosa comporta per la sovranità tecnologica, leggi la nostra analisi completa su architettura, privacy e impatto di mercato.

Articoli simili