DeepSeek: la rivoluzione dell’IA low cost è un mito?

La startup cinese DeepSeek ha recentemente fatto irruzione nel mondo dell’intelligenza artificiale (IA) con il suo modello avanzato R1, un sistema che si dice sia competitivo con il modello o1 di OpenAI.

La particolarità di DeepSeek risiede nell’affermazione di aver sviluppato questo modello con un budget sorprendentemente basso di 6 milioni di dollari e utilizzando solo 2.048 GPU per l’addestramento.

DeepSeek: la startup cinese con un approccio innovativo

Un’analisi approfondita della società di consulenza tecnologica SemiAnalysis getta un’ombra su queste dichiarazioni. Secondo il loro rapporto, la startup cinese ha investito ben 1,6 miliardi di dollari in hardware e dispone di una flotta di 50.000 GPU Nvidia Hopper. Questa scoperta mette in discussione l’idea che abbia rivoluzionato l’addestramento e l’inferenza dell’IA con investimenti notevolmente inferiori rispetto ai leader del settore.

SemiAnalysis ha rivelato che DeepSeek gestisce una vasta infrastruttura di calcolo, comprendente circa 50.000 GPU Hopper, tra cui 10.000 H800 e 10.000 H100, con ulteriori acquisti di unità H20. Queste risorse sono distribuite in diverse sedi e vengono utilizzate per attività quali l’addestramento dell’IA, la ricerca e la modellazione finanziaria. L’investimento di capitale totale dell’azienda in server ammonta a circa 1,6 miliardi di dollari, con una spesa stimata di 944 milioni di dollari in costi operativi.

La nuova startup ha attirato l’attenzione del mondo dell’IA quando ha rivelato i requisiti hardware minimi del suo modello DeepSeek-V3 Mixture-of-Experts (MoE), che sono notevolmente inferiori rispetto a quelli dei modelli sviluppati negli Stati Uniti. Successivamente, l’azienda ha stupito il settore tecnologico con un modello di IA R1 competitivo con OpenAI. Tuttavia, i risultati di SemiAnalysis suggeriscono che l’azienda ha investito circa 1,6 miliardi di dollari in hardware, una cifra considerevole che contraddice le affermazioni iniziali.

DeepSeek ha origine da High-Flyer, un hedge fund cinese che ha adottato l’IA in anticipo e ha investito massicciamente nelle GPU. Nel 2023, High-Flyer ha lanciato DeepSeek come un’entità separata focalizzata esclusivamente sull’IA. A differenza di molti concorrenti, rimane autofinanziata, il che le conferisce flessibilità e velocità nel processo decisionale. Nonostante le affermazioni di essere una piccola realtà, l’azienda ha investito oltre 500 milioni di dollari nella sua tecnologia.

La sua storia è un esempio Inter di come una startup possa rapidamente scalare posizioni nel competitivo mondo dell’IA. Tuttavia, la discrepanza tra le affermazioni iniziali sui costi e gli ingenti investimenti in hardware rivelati da SemiAnalysis solleva interrogativi sulla trasparenza dell’azienda. Nonostante ciò, rimane un attore da tenere d’occhio nel panorama dell’IA, con un potenziale significativo per il futuro.

Talento locale e stipendi competitivi

La startup cinese che sta sfidando i colossi dell’intelligenza artificiale, si distingue per una serie di fattori chiave che ne stanno determinando il successo. Uno di questi è la sua capacità di gestire autonomamente i propri data center, un vantaggio non da poco rispetto alla maggior parte delle altre startup che dipendono da provider cloud esterni.

Questa indipendenza le consente di avere il pieno controllo sui propri esperimenti e sulle ottimizzazioni dei modelli di IA. Non dovendo fare i conti con colli di bottiglia esterni, l’azienda può iterare rapidamente e apportare modifiche in modo efficiente, superando i tempi di attesa che spesso rallentano i player tradizionali del settore.

Un altro elemento distintivo di DeepSeek è la sua strategia di reclutamento. Contrariamente a molte aziende cinesi che “bracconano” talenti a Taiwan o negli Stati Uniti, si concentra esclusivamente sul mercato interno, attingendo a competenze e capacità di problem-solving all’interno della Cina continentale. L’azienda punta a istituzioni prestigiose come la Peking University e la Zhejiang University, offrendo stipendi altamente competitivi per attrarre i migliori talenti. Alcuni ricercatori di IA
guadagnano oltre 1,3 milioni di dollari, superando la retribuzione offerta da altre importanti aziende cinesi di IA come Moonshot.

Grazie a questo afflusso di talenti, ha potuto sviluppare innovazioni significative, come la Multi-Head Latent Attention (MLA), una tecnologia che ha richiesto mesi di sviluppo e un notevole utilizzo di GPU. DeepSeek pone l’accento sull’efficienza e sui miglioramenti algoritmici, piuttosto che sul ridimensionamento tramite forza bruta. Questo approccio sta cambiando le aspettative sullo sviluppo di modelli di IA e ha portato alcuni a credere che i suoi rapidi progressi possano ridurre la domanda di GPU di fascia alta, con un impatto potenziale su aziende come Nvidia.

La recente affermazione della startup cinese di aver addestrato il suo ultimo modello per soli 6 milioni di dollari ha alimentato l’attenzione e l’interesse nei confronti dell’azienda. Tuttavia, è importante notare che questa cifra si riferisce solo a una parte del costo totale dell’addestramento, in particolare al tempo GPU necessario per il pre-addestramento. Non tiene conto della ricerca, del perfezionamento del modello, dell’elaborazione dei dati e delle spese infrastrutturali complessive.
In realtà, ha investito ben oltre 500 milioni di dollari nello sviluppo dell’IA sin dalla sua nascita. Questa cifra, sebbene considerevole, testimonia l’impegno dell’azienda nel perseguire l’eccellenza nel campo dell’intelligenza artificiale.

A differenza delle aziende più grandi, spesso gravate dalla burocrazia, la sua struttura snella le consente di spingere in avanti in modo aggressivo nell’innovazione dell’IA. Questa agilità e capacità di adattamento rapido sono cruciali in un settore in continua evoluzione come quello dell’intelligenza artificiale.

Conclusioni

L’ascesa di DeepSeek dimostra come una combinazione di finanziamenti, innovazione e talento possa portare una startup a competere con i colossi dell’IA. Contrariamente a quanto si potrebbe pensare, il suo successo non è frutto di “miracoli” o di investimenti minimi. L’azienda ha investito miliardi di dollari in hardware e infrastrutture, una cifra in linea con quanto dichiarato da Elon Musk sulla necessità di ingenti investimenti per competere nel settore dell’IA.