Quanto costa eseguire l'IA sul proprio hardware?

Gli imprenditori continuano a chiederci la stessa cosa: i nostri dati sono sensibili e la bolletta d'uso cresce ogni mese, quindi possiamo eseguire il modello da soli invece di dipendere da un servizio esterno?

Una risposta onesta parte da una correzione: i pesi di Claude e GPT non sono pubblicati, quindi nessuno li esegue in casa, qualunque sia l'hardware. Ciò che puoi davvero eseguire sono i modelli open-weight, che oggi arrivano a 200 miliardi di parametri e oltre e che in molti compiti pratici si avvicinano a ciò che offrono i servizi a pagamento: riassumere documenti, rispondere a domande sui tuoi dati, scrivere codice, tradurre. Il divario si riduce ogni pochi mesi.

La vera domanda quindi non è se sia possibile, ma quanti parametri può contenere la tua macchina. Questo porta all'unica regola che decide tutto.

La regola decisiva: prima la memoria, poi la velocità

Per funzionare, un modello deve stare interamente in memoria. Il calcolo è più semplice di quanto sembri:

• A precisione piena: due byte per parametro.
• Con quantizzazione a 8 bit: un byte per parametro.
• Con quantizzazione a 4 bit: mezzo byte per parametro, la scelta pratica per la maggior parte degli usi.

Poi aggiungi circa dal 20 al 30% per il contesto e il sovraccarico di esecuzione. Il risultato è questa tabella di stima, con cui puoi misurare qualsiasi macchina:

I valori includono un margine per l'esecuzione e sono stime; variano leggermente in base al metodo di quantizzazione e alla lunghezza del contesto.

Questa tabella da sola risolve la maggior parte dei confronti: guarda prima la capacità di memoria, perché decide cosa puoi eseguire. La larghezza di banda e il tipo di processore decidono a che velocità.

Le opzioni disponibili oggi

Apple: il nuovo Mac Studio

Il 25 agosto 2026 Apple ha annunciato una nuova generazione di Mac Studio, spedita dal 22 settembre, con la configurazione da 512GB in arrivo a fine ottobre. Oggi è l'opzione più ampia in termini di capacità:

• M5 Max: CPU a 18 core, GPU fino a 40 core con Neural Accelerators integrati in ogni core, e fino a 128GB di memoria unificata con una larghezza di banda fino a 614GB/s.
• M5 Ultra: CPU fino a 36 core, GPU fino a 80 core e fino a 512GB di memoria unificata, abbastanza per eseguire modelli enormi interamente sul dispositivo.
• Thunderbolt 5 permette di unire più unità in cluster, arrivando fino a 3x le prestazioni di un singolo sistema nell'inferenza distribuita.

Il suo vero vantaggio è che la memoria è unificata tra CPU e GPU, quindi non serve una scheda separata con memoria propria. Include due framework per sviluppatori: il nuovo Core AI e MLX, open source.

AMD: il Ryzen AI Max+ 395

Arriva in piccole macchine desktop con 128GB di memoria unificata, funziona con Windows o Linux e costa meno del diretto rivale di Nvidia. È la scelta pratica per chi vuole 128GB al costo più basso, o il cui team preferisce un ambiente Linux familiare.

Nvidia: DGX Spark

Un box di circa un litro con un chip Grace Blackwell e 128GB, ed è il prodotto che ha creato questa categoria. Il suo vantaggio più importante non sono le specifiche ma l'ecosistema CUDA: la maggior parte degli strumenti di IA e dei framework di addestramento è stata scritta prima di tutto per esso. Se il tuo team addestrerà o farà il fine-tuning dei modelli invece di limitarsi a eseguirli, è un fattore decisivo.

La via tradizionale: un server con GPU dedicate

Resta la risposta giusta quando servi più utenti contemporaneamente. Le schede server offrono una larghezza di banda molto superiore rispetto alle macchine a memoria unificata, e questo si vede nelle richieste simultanee più che nella dimensione del modello. Gli svantaggi: costi più alti, oltre a consumi, calore e rumore che richiedono una stanza adatta.

Le macchine a confronto

Prezzi esatti e dove acquistare

Abbiamo preso i prezzi di Apple direttamente dai suoi store statunitense e saudita alla data di pubblicazione di questo articolo:

Acquista dall'Apple Store saudita o dall'Apple Store statunitense. Sono prezzi di partenza per configurazione; portare la memoria al massimo li alza notevolmente, e l'opzione da 512GB arriva a fine ottobre e non al lancio. Nota che il prezzo saudita include l'IVA, mentre quello statunitense è al netto delle tasse.

AMD e Nvidia non vendono queste macchine direttamente a un prezzo unico: il chip AMD arriva dentro macchine di produttori diversi a circa 1.500-4.000 $ a seconda del produttore e della configurazione, e DGX Spark è uscito intorno ai 4.000 $ ed è salito sul mercato. Alla data di pubblicazione non abbiamo trovato un'offerta ufficiale al dettaglio in Arabia Saudita per nessuno dei due, quindi acquistarli significa passare da un distributore o importare; in quel caso aggiungi IVA, dogana e spedizione. Le loro pagine ufficiali: NVIDIA DGX Spark e AMD Ryzen AI Max+ 395.

Quale modello aperto eseguire, e su cosa?

La macchina è metà della decisione; l'altra metà è il modello stesso. Questi sono i principali modelli open-weight che puoi scaricare ed eseguire oggi, con la macchina che regge ciascuno a 4 bit e una stima della sua capacità pratica:

Cosa significa qui la percentuale di capacità? Quanto il modello si avvicina, nel lavoro aziendale quotidiano (riassumere, rispondere a domande sui documenti, scrivere codice, tradurre), ai modelli chiusi a pagamento più potenti. È una stima editoriale di Origami basata sulle specifiche pubblicate e sui dati dichiarati dai produttori stessi, non il risultato di un unico test neutrale. Il motivo è semplice: ogni laboratorio pubblica i propri numeri con un ambiente di test e impostazioni diversi, quindi oggi nessun benchmark neutrale classifica tutti questi modelli. Consideralo una guida, non un verdetto, e prova il modello sui tuoi compiti prima di impegnarti.

Due note che riassumono l'intera tabella: i modelli indicati come "attivi" usano solo una piccola parte dei loro parametri per ogni richiesta, quindi sono più veloci di quanto suggerisca la loro dimensione, ma richiedono comunque tutta la memoria. E la differenza tra il 72% e il 90% scompare del tutto nella maggior parte del lavoro d'ufficio, mentre si vede chiaramente nei compiti lunghi e complessi. Non pagare 512GB per guadagnare un margine che non noterai mai.

Come scegliere, in pratica

• Uno o due utenti? Una macchina a memoria unificata basta e fa risparmiare molto.
• Un team che usa il sistema contemporaneamente? Ti serviranno GPU dedicate, perché ora il problema sono le richieste simultanee, non la dimensione del modello.
• Addestramento o fine-tuning? Orientati verso CUDA.
• Vuoi il modello più grande possibile con la minima complessità? La capacità più ampia oggi è quella di Apple.
• Budget limitato? 128GB coprono modelli fino a 200 miliardi di parametri a 4 bit, il che soddisfa davvero la maggior parte delle esigenze aziendali.

Il compromesso da capire prima di acquistare: le macchine a memoria unificata offrono grande capacità con una larghezza di banda inferiore rispetto alle schede server. Caricano il modello grande senza problemi, ma generano il testo più lentamente. In chat e riassunti te ne accorgerai appena; nell'elaborazione batch intensiva sì.

Quando un server privato è la decisione sbagliata

Lo diciamo chiaramente perché lo vediamo spesso: l'hardware non è la fine del progetto, ma l'inizio. Stai comprando anche la responsabilità di aggiornamenti, backup, monitoraggio e di chi lo ripara quando si ferma di giovedì. Se il tuo uso è saltuario e ridotto, la bolletta mensile di un servizio esterno costa meno della macchina, della sua elettricità e del tempo di chi la gestisce.

Un server privato si guadagna il suo posto quando si incontrano tre cose: dati che non devono uscire, un uso intenso e costante, e una persona o un soggetto che lo gestisca. Se ne manca una delle tre, rifai il calcolo.

Il punto di vista di Origami

Pensiamo che la domanda importante non sia quale macchina comprare, ma cosa ci farai girare. La maggior parte di chi ci chiede di un server privato ha in realtà bisogno di un modello di medie dimensioni che risponda a domande sui documenti dell'azienda, e questo gira comodamente su 128GB, a volte su meno. Comprare 512GB per eseguire un modello da 70 miliardi di parametri è una spesa senza ritorno.

Il nostro consiglio pratico: definisci il compito, poi scegli il modello che lo svolge, poi compra la macchina che regge quel modello con margine. Aiutiamo in quest'ordine: definire il compito, selezionare il modello e costruire lo strato che lo collega ai tuoi dati e sistemi, perché un modello senza collegamento ai tuoi dati resta uno strumento generico e non un sistema al servizio della tua azienda. Ci trovi nella pagina dei contatti.

Conclusione

Non eseguirai Claude in casa, ma eseguirai modelli aperti capaci che coprono la maggior parte del lavoro aziendale. Dimensiona prima il tuo fabbisogno in parametri: mezzo byte per parametro a 4 bit, più margine. Poi scegli tra memoria unificata, che compra capacità a un costo ragionevole, e schede dedicate, che comprano velocità e concorrenza. La decisione più importante arriva comunque prima dell'hardware: cosa eseguirai, e perché.

Fonti

• Comunicato stampa di Apple, 25 agosto 2026: specifiche del Mac Studio con M5 Max e M5 Ultra, capacità e larghezza di banda della memoria unificata, clustering tramite Thunderbolt 5 e i framework Core AI e MLX.
• Recensioni indipendenti di StorageReview e HotHardware su AMD Ryzen AI Max+ 395 e Nvidia DGX Spark, compresi i loro confronti di capacità e prezzo.
• Il calcolo della memoria segue la regola standard per l'esecuzione dei modelli: due byte per parametro a precisione piena, che scendono con la quantizzazione.
• Schede ufficiali dei modelli su Hugging Face per Qwen3.8, Llama 4, Mistral, gpt-oss, DeepSeek V4, GLM-5.3 e Kimi K3: la fonte del numero di parametri e delle licenze. Le percentuali di capacità sono una stima editoriale di Origami, come spiegato sopra.