Samsung e Hyundai supportano la startup di intelligenza artificiale Tenstorrent Tutti vogliono la concorrenza con Nvidia, afferma il CEO Keller

Samsung e Hyundai supportano la startup Tenstorrent nel settore dell'intelligenza artificiale. CEO Keller afferma la volontà di competere con Nvidia.

Il gigante dei chip Nvidia è la forza più potente nell’intelligenza artificiale oggi, più potente di Microsoft, Google o OpenAI. I suoi chip GPU sono la forma dominante di calcolo nell’industria per programmi come ChatGPT. Una serie di startup non è riuscita a contrastare tale dominio nonostante anni di tentativi.

Inoltre: I migliori chatbot AI

Eppure, il mondo brama ancora la concorrenza e Nvidia potrebbe essere vulnerabile perché, secondo alcuni, l’economia del dominio di Nvidia non può essere sostenuta.

“Nvidia ha un monopolio sui margini di profitto”, ha detto Jim Keller, CEO della startup di chip AI Tenstorrent, in un’intervista esclusiva con ENBLE. “Se vuoi creare una soluzione ad alte prestazioni con l’AI al suo interno, Nvidia si prenderà la maggior parte del margine del prodotto. Il problema della strategia del vincitore prende tutto è che genera un ambiente economico in cui le persone vogliono davvero un’alternativa”.

Keller è una rockstar del mondo dei chip informatici, noto per una lunga serie di successi nel campo dei chip, dal rilancio del settore processori di Advanced Micro Devices (AMD) alla creazione delle basi del business di processori personalizzati di Apple fino alla costruzione della piattaforma chip di Tesla Autopilot. Crede che la frustrazione dell’industria per il controllo di Nvidia e la tecnologia emergente di RISC-V abbiano aperto una strada per le alternative.

Alcuni potenti attori credono che abbia una possibilità.

Inoltre: Rinascita di Mac: Come la transizione dei chip di Apple ha prodotto un Mac Pro così stranamente configurato

Mercoledì, Keller ha annunciato che Tenstorrent ha ricevuto 100 milioni di dollari di finanziamenti da Hyundai Motor Group, il terzo produttore di automobili al mondo, e Samsung Catalyst Fund, un braccio di venture capital della gigante dell’elettronica Samsung Electronics, insieme alla partecipazione di Fidelity Ventures, Eclipse Ventures, Epiq Capital, Maverick Capital e altri.

I nuovi fondi si aggiungono a un finanziamento precedente di quasi 250 milioni di dollari, dando a Tenstorrent, una startup di sette anni, una cospicua somma da portare sul mercato per diversi chip per l’AI.

Hyundai, come molte aziende, è interessata a alternative a Nvidia per cose come l’integrazione dell’AI nelle automobili, ha detto Keller. L’azienda ha anche una divisione robotica, avendo acquisito nel 2020 Boston Dynamics, spinoff di robotica del MIT.

“Sono un’azienda leader nella tecnologia”, ha detto Keller di Hyundai, “Stanno guadagnando denaro e lo stanno investendo in tecnologia perché vedono una strada per costruire prodotti di prossima generazione con AI”.

Inoltre: Come raggiungere l’iperpersonalizzazione utilizzando piattaforme AI generative

Più precisamente, Hyundai “vuole costruire i propri prodotti e raggiungere i punti di costo e prestazioni”, ha detto Keller. “Non puoi dare a Nvidia il 60% di margine lordo per un prodotto standard, onestamente, e stanno cercando alternative”.

Heung-soo Kim, vicepresidente esecutivo e responsabile dell’ufficio strategico globale di Hyundai, ha detto in una dichiarazione preparata:

“Il potenziale di crescita elevato di Tenstorrent e i semiconduttori AI ad alte prestazioni contribuiranno a far acquisire al Gruppo tecnologie competitive per le mobilità future.

“Con questo investimento, il Gruppo si aspetta di sviluppare una tecnologia semiconduttore ottimizzata ma differenziata che favorirà le mobilità future e rafforzerà le capacità interne nello sviluppo della tecnologia AI”.

Keller e Heung-soo Kim, vicepresidente esecutivo e responsabile dell’ufficio strategico globale di Hyundai Motor Co.

L’investimento di Samsung ha particolare senso per uno dei più grandi produttori al mondo di semiconduttori conto terzi. L’azienda ha prodotto molti dei chip per i quali Keller è famoso, inclusa la Tesla Autopilot. Samsung sa che da piccole ghiande nascono alberi maestosi, e la startup di oggi potrebbe essere il grande cliente di domani per la produzione di chip.

Inoltre: Questi chip a base di funghi potrebbero alimentare i tuoi dispositivi e aiutare a salvare il nostro pianeta

Il capo del Samsung Semiconductor Innovation Center, Marco Chisari, ha detto in una dichiarazione preparata: “La tecnologia leader del settore di Tenstorrent, la leadership esecutiva e la roadmap aggressiva ci hanno motivato a co-lead questa fase di finanziamento”. Ha aggiunto: “Siamo entusiasti dell’opportunità di lavorare con Tenstorrent per accelerare le innovazioni nell’AI e nel calcolo”.

Keller con il capo del Samsung Semiconductor Innovation Center, Marco Chisari.

Nel suo discorso di presentazione del finanziamento, Keller ha elogiato entrambe le aziende: “La fiducia dimostrata da Hyundai Motor Group e Samsung Catalyst Fund nei confronti di Tenstorrent è davvero umiliante”.

Per Keller, che ha costruito molti dei chip più veloci al mondo, l’argomento è principalmente economico, ma anche fortemente tecnologico.

“Non credo che l’utilizzo delle GPU con CUDA e PyTorch sia la soluzione definitiva per l’AI. Quando gli alieni arriveranno, non penso che ci chiederanno se abbiamo inventato CUDA”, ha scherzato Keller, facendo riferimento alla piattaforma software di Nvidia per l’esecuzione di reti neurali.

“Anche se le GPU hanno successo oggi, non sono la risposta migliore ed evidente, sono più una risposta sufficientemente buona che era disponibile”, ha detto Keller riguardo alla dominanza dei chip Nvidia come l’H100 “Hopper” GPU, che è il prodotto principale di Nvidia per l’esecuzione di reti neurali.

Inoltre: Generative AI e il quarto perché: Costruire fiducia con il cliente

I modelli di intelligenza artificiale generativi più avanzati, soprattutto quelli derivanti dalla comunità del software open source, porteranno a un cambiamento profondo nella distinzione del settore tra addestramento e inferenza. “Penso che il motore di intelligenza artificiale del futuro… avrà un insieme di capacità abbastanza diverse che non sembreranno inferenza rispetto ad addestramento, ma più una fusione dei due.”

Ammette che Nvidia ha ottenuto un vantaggio incredibile nell’AI grazie alla decisione del co-fondatore e CEO Jensen Huang di concentrare gli sforzi dell’azienda sul software molto presto.

“La sfida del software per l’AI è stata più difficile di quanto pensassimo, ad essere onesti”, ha osservato Keller. “Molti delle startup di AI sono state fondate da esperti di hardware.” Nvidia, ha notato, “ha investito più a lungo in quel software, in parte perché hanno investito in HPC [elaborazione ad alte prestazioni per carichi di lavoro scientifici complessi] quando nessuno voleva farlo”, ha detto Keller. Ciò ha richiesto lo sviluppo di framework di programmazione speciali per la GPU. “Hanno investito e sono riusciti a far funzionare alcune cose.”

Ma, ha detto Keller, il mondo sta cambiando. La crescita di alternative open source a CUDA, i vari framework di intelligenza artificiale come TensorFlow e PyTorch e i modelli open source creati da aziende come Stability.ai e MosaicML, ospitati da hub come Hugging Face, sono promettenti, ha detto. “La cosa intrigante è la quantità di collaborazione open source che sta avvenendo sul fronte del software, che dobbiamo eguagliare sul fronte dell’hardware.”

Per eguagliare questo sforzo open source nell’hardware, Keller punta su RISC-V, il set di istruzioni per chip open source sviluppato più di un decennio fa presso l’Università della California a Berkeley da un collega di Keller, il rinomato pioniere dei chip David Patterson e i suoi colleghi.

Inoltre: L’AI cambierà per sempre il ruolo degli sviluppatori. Ecco perché è una buona notizia

Per Keller, che è un abile risolutore di problemi su larga scala, sta accadendo qualcosa di cruciale sul fronte economico e tecnologico. “Mi piace esplorare lo spazio, comprenderlo e poi fare qualcosa”, ha detto.

Nella leggendaria Digital Equipment Corp., negli anni ’80 e ’90, ha costruito il chip più veloce del mondo all’epoca. Una delle ex startup di Keller, P.A. Semi Inc., è stata acquistata da Apple nel 2008 ed è diventata la base per il silicio “A-series” che ora alimenta tutti i dispositivi Apple, una rottura improbabile da Intel. Tesla era “solo una piccola azienda di ingegneria” che produceva non più di un quarto di milione di automobili quando Keller ha guidato un team nello sviluppo dell’hardware per l’Autopilot di Tesla, ora presente in ogni auto.

Ha resuscitato lo sviluppo dei chip di AMD in declino in un momento in cui “Tutti mi dicevano che AMD sarebbe andata in bancarotta”, ha ricordato Keller. I suoi sforzi hanno gettato le basi che non solo hanno riportato l’azienda dal baratro ma l’hanno trasformata in un gigante dei chip.

In Tenstorrent, fondata nel 2016, Keller ha visto qualcosa di intrigante. L’azienda si è concentrata sull’opportunità di chip nell’esplosione delle dimensioni dei modelli di intelligenza artificiale di apprendimento profondo come GPT di OpenAI, programmi che richiedono sempre maggiori prestazioni.

Inoltre: GPT-3.5 vs GPT-4: Vale la pena sottoscrivere ChatGPT Plus?

Keller, che era stato un investitore angelo in Tenstorrent quando era ancora a Tesla, conosceva il fondatore Ljubisa Bajic, che aveva lavorato per Keller in AMD. “Ho avuto l’opportunità di valutare molte proposte per motori di intelligenza artificiale e ho pensato che quello che stava facendo fosse piuttosto interessante”, ha ricordato Keller.

È stato abbastanza interessato da prendere il posto di primo piano presso Tenstorrent nel gennaio 2021. “Era [Tenstorrent] in qualche modo un progetto di ricerca e ho avuto la sensazione che stessimo iniziando a capire qual era il progetto di ricerca”, ha spiegato.

Ciò che è chiaro, ha detto Keller, è che l’arrivo dell’IA si sta fondendo con l’arrivo di RISC-V e la pressione economica della dominanza di Nvidia.

In futuro, “Il calcolo sarà dominato dall’IA”, ha detto Keller. Le reti neurali generative che Tenstorrent è stata creata per affrontare, man mano che aumentano di scala, richiedono sempre più potenza di calcolo, e quindi stanno diventando dominanti nel design di tutti i chip.

Come nei suoi sforzi passati, Keller non ha semplicemente adottato il playbook come lo ha trovato presso Tenstorrent. Ha preso la sorprendente decisione di non solo continuare con i chip dedicati all’IA, ma anche di costruire una CPU generale in grado di gestire la gestione dei chip per l’IA.

“Abbiamo deciso di costruire un processore RISC-V per essere un compagno di calcolo generale del processore per l’IA perché il calcolo generale e l’IA lavoreranno insieme e devono essere strettamente integrati”, ha detto.

Per farlo, “ho assunto alcuni dei migliori progettisti di AMD, Apple e Nvidia”, ha detto Keller, che ha dichiarato di essere appassionato del “team adventure”. “Abbiamo un ottimo team di CPU; sono davvero molto entusiasta”.

Inoltre: AMD vs Intel: i migliori processori per il gaming per professionisti, creatori e giocatori occasionali

In un certo momento, ARM, la controllata privata del gruppo SoftBank, che si sta preparando per un’offerta pubblica iniziale, era un potenziale salvatore per l’industria dei chip presa tra la dominanza di Intel e Nvidia. Questo è cambiato, ha detto Keller. “Ho parlato molto con ARM e ARM aveva due grandi problemi”, ha osservato Keller.

“Uno è che ora sono troppo costosi”, ha detto. Quello che era una situazione economica fattibile per le aziende che licenziano la tecnologia di ARM si è trasformato in una questione di continuo aumento dei prezzi, richiedendo una percentuale sempre più alta dei prodotti che i clienti costruiscono con la tecnologia di ARM.

L’altro problema, ha detto, è che ARM non avrebbe apportato modifiche alle istruzioni fondamentali per adattarsi alle nuove forme di gestione dei dati richieste dall’IA. “L’IA sta cambiando rapidamente”, ha osservato Keller. Si è rivolto alla startup della Silicon Valley SiFive, che ha realizzato un’attività di licenza di una versione delle CPU di chip basate su RISC-V. “Loro [ARM] non volevano apportare le modifiche di cui avevo bisogno per il mio prossimo chip; SiFive ha detto ‘Certo'”.

Grazie a RISC-V, sia Tenstorrent che i suoi clienti possono avere il controllo, ha sottolineato Keller, a differenza di un monopolista. “Un’altra missione di progettazione era come costruire una grande tecnologia in cui le persone hanno il diritto di licenziare?”, ha detto.

Come risultato dell’apertura di RISC-V, “RISC-V sostituirà gradualmente tutto”, ha detto Keller, cioè ARM, il set di istruzioni di Nvidia e il codice x86 su cui è basato l’impero Intel.

Inoltre: Windows su Arm redux: può Microsoft offrire una sorpresa di silicio entro la fine dell’anno?

Oltre alla nuova CPU basata su RISC-V, l’acceleratore di intelligenza artificiale di Tenstorrent sta subendo un enorme cambiamento per incorporare la capacità di RISC-V al suo interno. “Il nostro motore IA ha un grande moltiplicatore di matrici, un processore tensoriale, un processore vettoriale, ma ha anche cinque piccoli processori RISC-V che emettono essenzialmente lo stream di istruzioni per l’IA”, ha spiegato Keller.

L’azienda sta iniziando a vendere le sue prime due generazioni di chip e si sta muovendo rapidamente per avere il primo silicio di una terza generazione e sta lavorando sulla quarta.

Il business di Tenstorrent avrà diverse vie per fare soldi. La CPU di progettazione generale è un “processore di fascia alta” che “ha un valore di licenza”, e poi c’è il chip acceleratore di intelligenza artificiale che è sia una parte che l’azienda può vendere, ma anche un motore di intelligenza artificiale RISC-V che altre persone potrebbero licenziare.

Ci dovrebbero essere molti interessati dato che l’industria è insoddisfatta della tassa di Nvidia, come si potrebbe chiamare i prezzi elevati di H100 e delle altre parti.

“Ho parlato con molte persone che non è tanto che non gradiscono Nvidia come tecnologia o che non gradiscono Jensen [Huang]”, ha detto. È puramente una questione di business.

Inoltre: 4 modi per individuare l’eccesso di hype dell’IA generativa rispetto alla realtà

“Ho parlato con aziende di alimentatori, aziende di microcontrollori, startup di guida autonoma, produttori di server per il bordo dei data center”, ha detto. “Se crei il tuo chip e vuoi un motore di intelligenza artificiale, non puoi metterci una GPU da $2.000”, ha osservato. “Ho parlato con due aziende di robotica che avevano praticamente la stessa linea: non posso mettere una GPU da $10.000 in un robot da $10.000”.

Ovviamente, Nvidia sembra in questi giorni un’azienda senza concorrenza. Dominia regolarmente i test di benchmark delle prestazioni dei chip come MLPerf. Il suo business dei data center, che include i chip di intelligenza artificiale, supera di gran lunga le vendite di intelligenza artificiale di Intel e AMD. L’unità potrebbe raddoppiare in termini di ricavi quest’anno, arrivando a 31 miliardi di dollari, quasi due terzi dei ricavi annuali di Intel.

Una serie di startup, piene di ingegneri incredibilmente talentuosi, come Cerebras Systems, Graphcore e Samba Nova Systems, non sono riuscite a fare breccia in Nvidia, nonostante il fatto che tutti vogliano un’alternativa a Nvidia.

Nessuna di queste cose preoccupa Keller, che ha combattuto e vinto molte battaglie nella sua vita di progettista di chip. Per una cosa, queste aziende non hanno sfruttato RISC-V, che è un elemento dirompente, secondo lui. “Se avessimo sviluppato il motore di intelligenza artificiale open-source RISC-V cinque anni fa”, che Tenstorrent sta ora costruendo, ha detto Keller, “allora 50 startup avrebbero potuto innovare su quello anziché risolvere lo stesso problema in 15 modi diversi, 50 volte diversamente”, come hanno fatto Cerebras e altre.

A un livello più semplice, le persone assumono sempre che lo status quo rimarrà tale, ma non è mai il caso.

“La guerra per il calcolo è stata vinta molte volte”, ha riflettuto Keller. “Le mainframe l’hanno vinta, poi i mini-computer l’hanno vinta, poi le workstation l’hanno vinta, poi i PC l’hanno vinta, poi i dispositivi mobili l’hanno vinta – la guerra è stata vinta, quindi iniziamo la prossima battaglia!”

Ad un livello ancora più semplice, “Penso che i computer siano un’avventura”, ha detto. “Mi piace progettare computer; sono appassionato di avventure”.