Scatenare un torrent open source su CPU e motori di intelligenza artificiale

Quando si combinano le forze dell'open source e l'ampia e profonda esperienza nel settore dei semiconduttori del leggendario architetto di chip Jim Keller, è destinato a succedere qualcosa di interessante. E questo è esattamente il piano della startup AI e ora del produttore di CPU Tenstorrent.

Tenstorrent è stata fondata nel 2016 da Ljubisa Bajic, Milos Trajkovic e Ivan Hamer e ha sede a Toronto. Keller è stato un angel investor e un consulente dell'azienda fin dall'inizio, ed è stato assunto come chief technology officer nel gennaio 2021 dopo un periodo presso il settore server di Intel, dove ha ripulito alcuni problemi di architettura e di processo come aveva fatto sotto un precedente lavoro presso AMD. Nel gennaio di quest’anno, Keller è stato scelto per sostituire Bajic come amministratore delegato e la società annuncia oggi che porterà tra i 120 e i 150 milioni di dollari nei suoi finanziamenti di serie D, con Hyundai Motor Group e Samsung Catalyst Fund in testa. il round e con i precedenti investitori Fidelity Ventures, Eclipse Ventures, Epiq Capital, Maverick Capital e altri che danno il loro contributo. Ad oggi, si tratterà di un investimento pari a circa 384,5 milioni di dollari e probabilmente aumenterà la sua valutazione oltre 1,4 miliardi di dollari.

Tutto quel denaro è interessante e necessario per pagare la notevole quantità di lavoro di ingegneria che il team Tenstorrent deve svolgere per creare una linea di processori per server RISC-V di livello commerciale e acceleratori di intelligenza artificiale per eguagliarli e, cosa più importante, per prendere sull'egemonia delle GPU Nvidia nell'addestramento all'intelligenza artificiale. Ci vorranno soldi – e forse molti più soldi, e forse no – per aiutare le aziende a ridurre i costi della formazione sull’intelligenza artificiale. Quello che sappiamo è che Keller pensa di avere la squadra giusta per farlo, e abbiamo parlato con lui della missione Tenstorrent, una di quelle che non vedevamo l'ora di fare.

In seguito faremo un approfondimento sulle architetture della CPU Tenstorent e del motore AI.

Timothy Prickett Morgan: Passiamo direttamente alla scena dell'inseguimento. Muoio dalla voglia di farti questa domanda perché la tua risposta è importante. Perché diavolo abbiamo bisogno di un altro acceleratore AI?

Jim Keller:Ebbene, il mondo detesta il monopolio.

TPM: Sì, ma abbiamo già così tante società diverse nel gioco. Niente di tutto ciò ha funzionato in modo soddisfacente. Non è che i ragazzi di Groq abbiano preso l'idea del TPU, l'abbiano commercializzata e il gioco è fatto. Non è come MapReduce e Yahoo Hadoop. Nirvana Systems e Habana Labs avevano entrambi quelle che penso fossero buone architetture, e Intel non ha avuto un grande successo con nessuna delle due. Graphcore e SambaNova sono ragionevoli, Cerebras ha waferscale e questo è interessante. Anche l'esperanto è presente con RISC-V. E tutti, per quanto posso vedere, hanno un problema da un miliardo di dollari per passare al livello successivo. So che RISC-V è importante, che è il Linux dell'hardware e aspettavamo da molto tempo quel momento. L'uso di RISC-V per creare un acceleratore è la parte più semplice della scelta dell'architettura.

Che cosa sta facendo Tenstorrent in modo diverso, migliore? Non mi aspetto che tu riveli tutti i concetti architettonici oggi, ma cosa ti spinge e perché?

Jim Keller: Ci sono un sacco di cose. In primo luogo, ogni volta che si verifica un grande ciclo di hype, più persone ricevono investimenti rispetto a quelli adeguatamente sostenibili dal settore. Ljubisa Bajic, uno dei cofondatori di Tenstorrent, ed io abbiamo avuto lunghe chiacchierate perché all'epoca SambaNova e Cerebras avevano valutazioni altissime. Quindi hanno raccolto molti soldi e hanno iniziato a spendere molti soldi, e noi abbiamo fatto il contrario. L'ultima volta abbiamo avuto un round di valutazione post-finanziamento di 1 miliardo di dollari e ci è stato offerto più denaro a valutazioni più elevate. E allora abbiamo pensato: e allora? Down round come tutti gli altri? È davvero difficile per la tua azienda. Come se in un certo senso mettesse sia i tuoi dipendenti che i tuoi investitori in una brutta posizione. Quindi abbiamo raccolto meno soldi con una valutazione inferiore perché siamo presenti a lungo termine.

Ora, abbiamo analizzato cosa stanno facendo Cerebras, Graphcore, SambaNova, Groq e gli altri, e tutti hanno qualcosa di interessante altrimenti non verrebbero finanziati.