DeepSeek accusata di usare prodotti Nvidia, la startup ha “rubato” la tecnologia USA?

DeepSeek non ha fatto scalpore soltanto perché è in grado di competere con le performance di ChatGPT. Il principale motivo per cui ha causato il crollo delle azioni di molte aziende tech in Borsa è il prezzo dichiarato di addestramento del suo LLM R1: 6 milioni di dollari.

Un costo bassissimo in confronto a quanto hanno speso aziende come OpenAI e xAI, ma che potrebbe non essere del tutto reale. La startup cinese è infatti accusata di aver utilizzato prodotti Nvidia, comprandoli nel fiorente mercato nero di chip che si è sviluppato in Cina dopo che gli Usa hanno proibito le esportazioni dei prodotti Nvidia più avanzati nel Paese

Il vero costo di DeepSeek

Il giorno dopo il caos causato dall’uscita di DeepSeek nella Borsa americana, il Ceo di Scale AI Alexandr Wang ha rilasciato un’intervista all’emittente statunitense CNBS. Wang ha fondato Scale nel 2016, anni prima che l’AI diventasse il tema centrale del mondo tech. La sua azienda fornisce dati alle più grandi società tech per lo sviluppo dei Large language model, la tecnologia alla base dell’AI generativa.

Wang ha avanzato dubbi sulla trasparenza delle cifre riportate da DeepSeek per l’addestramento di R1, il suo LLM: “A quanto ho capito, DeepSeek possiede 50mila Nvidia H100, di cui non possono semplicemente parlare, ovviamente, perché sarebbe una violazione delle leggi americane sull’export” ha dichiarato Wang.

Gli Nvidia H100 sono chip, utilizzati principalmente proprio per addestrare intelligenze artificiali. Per diversi mesi sono stati i prodotti di punta di Nvidia e sono stati premiati come il prodotto più innovativo del 2023. A oggi, nonostante l’uscita del loro successore, l’H200, rimangono uno dei prodotti standard per l’inferenza, vale a dire il funzionamento, dell’intelligenza artificiale generativa.

Il prezzo di listino di un H100 è di circa 40mila dollari. Secondo le stime di Wang quindi, per il solo hardware utilizzato per addestrare R1, DeepSeek avrebbe speso 2 miliardi di dollari, non 6 milioni.Come altri prodotti Nvidia però, gli H100 non possono essere esportati in nessun modo in Cina.

Il mercato nero dei prodotti Nvidia in Cina

Gli Stati Uniti hanno bandito le esportazioni dei chip ad alte prestazioni in Cina nel 2022. Una ramificazione della guerra commerciale tra i due colossi che ha avuto ripercussioni immediate sullo sviluppo dell’intelligenza artificiale generativa in Oriente. Mentre OpenAI pubblicava ChatGPT, le società cinesi faticavano a trovare l’hardware per rimanere al passo in un settore che, negli anni precedenti, le vedeva protagoniste.

Ma i produttori cinesi non erano in grado di sopperire alla mancanza di H100 e di A100, un altro chip di alta fascia di Nvidia. Così si è sviluppato un fiorente mercato nero. Prodotti Nvidia provenienti per lo più dal Giappone, con il numero di serie abraso, hanno iniziato ad arrivare in Cina nascosti ovunque, dalle valige dei viaggiatori ai container delle grandi navi.

Le conseguenze sono state innumerevoli. Le grandi aziende hanno iniziato a offrire sempre di più per questi prodotti, tagliando fuori le startup che hanno dovuto faticare a causa dei prezzi molto alti. E proprio l’aumento dei costi è stato uno dei fattori più penalizzanti. Sul mercato nero un H100 poteva arrivare a costare 3 milioni di yuan, l’equivalente di circa 420mila dollari.

Oggi, con l’avvento degli H200, questo prezzo è calato, ma DeepSeek potrebbe aver fatto scorta di questi chip nel momento del loro massimo costo, come è plausibile visto il ritardo con cui R1 è uscito rispetto alla concorrenza. Se questo fosse il caso e le informazioni riportate da Wang fossero veritiere, l’azienda avrebbe speso 21 miliardi di dollari di solo hardware, a cui andrebbero aggiunti i costi dell’energia e del personale, per addestrare la propria intelligenza artificiale.