MediaTek sta per portare potenti app di intelligenza artificiale su alcuni telefoni Android | ENBLE
MediaTek porterà app di intelligenza artificiale su Android | ENBLE
Potresti aver già provato un mucchio di app AI generative sul tuo telefono. ChatGPT di OpenAI o HeyPi sono alcuni esempi di app AI conversazionali, mentre Runway ML ti permetterà di creare video generati da AI direttamente sul tuo telefono.
Ma finora, quasi tutte le app AI generative hanno fatto affidamento su calcolo basato su cloud, il che significa che tutta l’elaborazione magica dell’AI avviene nel cloud, proprio come le console Xbox fanno il grosso del lavoro nei centri server Microsoft quando giochi in streaming su telefono o tablet.
MediaTek vuole cambiare tutto questo, consentendo l’elaborazione dell’AI generativa direttamente sul tuo smartphone. Questo ambizioso obiettivo si materializzerà con il prossimo chipset di punta di MediaTek, che apparirà all’interno dei telefoni Android entro la fine di quest’anno. L’azienda è aiutata nei suoi sforzi dalla casa madre di Facebook, Meta, che offre il modello Llama 2 come pietra angolare per le app AI generative.
Il produttore di chip sta vantando una serie di vantaggi derivanti dal suo approccio di elaborazione dell’AI generativa sul dispositivo, che include “prestazioni senza soluzione di continuità, maggiore privacy, migliore sicurezza e affidabilità, latenza inferiore, la capacità di lavorare in aree con scarsa o nessuna connettività e costi operativi inferiori”.
Accelerare l’AI generativa sui telefoni
Il prossimo chipset di punta di MediaTek utilizzerà tre tattiche chiave per migliorare l’esperienza di AI generativa per gli smartphone. Prima di tutto, presenterà una pila software dedicata ottimizzata per eseguire Llama 2, un modello di linguaggio open source sviluppato da Meta che cerca di sfidare i modelli GPT di OpenAI e PaLM 2 di Google.
- Apple Magic Mouse, Magic Trackpad sono diventati leggermente più ec...
- Le migliori custodie protettive per iPhone nel 2023 le 30 migliori ...
- Potresti presto eseguire compiti di intelligenza artificiale dirett...
Llama 2, rilasciato a luglio, è “gratuito per la ricerca e l’uso commerciale”. Finora, non sono arrivate molte app che si basano sul modello di linguaggio Llama 2, poiché le app AI basate su GPT sono attualmente il discorso del momento. Ma Meta ha sollecitato attivamente i player del settore degli smartphone, incluso l’acerrimo rivale di MediaTek, Qualcomm.
Come MediaTek, Qualcomm ha siglato un accordo con Meta per mostrare l’elaborazione sul dispositivo per le applicazioni basate su Llama sugli smartphone alimentati dai suoi chipset di punta a partire dal 2024. Entrambe le aziende stanno anche puntando ad altre aree applicative, come veicoli, hardware XR, dispositivi per la casa intelligente e altro ancora, con i loro sforzi di AI generativa su dispositivo facilitati da silicio di alta qualità.
Sul suo prossimo chip di punta AI-friendly, MediaTek utilizzerà anche un’APU (Unità di Elaborazione dell’AI) potenziata che si basa su “accelerazione del framework Transformer”. I Transformer sono un tipo di architettura di reti neurali incaricata di creare modelli di linguaggio di grandi dimensioni come GPT (Transformer Pre-Addestrati Generativi) che hanno dato vita a prodotti come ChatGPT e Bing Chat di Microsoft.
Infine, il nuovo chip di MediaTek attingerà anche al modulo DRAM per migliorare l’esperienza utente delle app di AI generativa basate su Llama. La DRAM, abbreviazione di Memoria Dinamica Casuale, è il modulo di memoria ad alta velocità e bassa latenza che memorizza i dati di lavoro di un’app. Più DRAM nel tuo telefono, più app puoi eseguire in background senza problemi. C’è una ragione per cui produttori di smartphone come OnePlus hanno installato fino a 24 GB di DRAM sui loro telefoni.
Cosa significano questi aggiornamenti AI per te
Con le modifiche sopra menzionate, MediaTek afferma che il suo prossimo chip AI migliorerà l’esperienza con LLM e AIGC (Contenuto Generato dall’Intelligenza Artificiale) spostando la maggior parte dei requisiti di elaborazione all’hardware locale.
Per quanto riguarda il tipo di compiti che puoi aspettarti di velocizzare, dipenderà dalle capacità del modello di linguaggio Llama 2 di Meta e dal tipo di app che vengono costruite su di esso. Llama 2 è un modello di linguaggio basato su testo, quindi puoi aspettarti che faccia gli stessi trucchi di ChatGPT o Bard. Può elaborare query e fornire risposte basate sui suoi set di dati di addestramento, riassumere o espandere il testo e altro ancora.
Riguardo a MediaTek, questa non sarà la prima partnership di intelligenza artificiale del suo genere. A luglio di quest’anno, l’azienda ha siglato un accordo con l’unità cinese di Unity – che sviluppa il motore di sviluppo di giochi omonimo – per esplorare applicazioni generative di intelligenza artificiale nel segmento dei giochi.
MediaTek prevede che il suo nuovo chip con applicazioni Llama 2 arrivi negli smartphone entro la fine dell’anno, quindi non dobbiamo aspettare molto per vedere come tutto ciò si tradurrà in un prodotto effettivo.
