La startup israeliana e società di deep learning Deci ha annunciato una collaborazione con Qualcomm Technologies per sviluppare modelli avanzati di intelligenza artificiale generativa per Qualcomm Cloud AI 100. La collaborazione mira a rendere l'intelligenza artificiale più accessibile per una gamma più ampia di applicazioni e democratizzare il potere dell'intelligenza artificiale generativa per gli sviluppatori.
Personalizzando modelli specifici per la soluzione Qualcomm Cloud AI 100, le aziende intendono sbloccare l'elaborazione AI in tempo reale e conveniente. Cloud AI 100 è la soluzione di Qualcomm creata per ottimizzare le prestazioni per l'inferenza generativa dell'intelligenza artificiale, inclusi i modelli linguistici di grandi dimensioni (LLM).
"Alcune delle principali sfide nell'attuale panorama dell'intelligenza artificiale generativa sono legate alla disponibilità di potenza di calcolo per l'elaborazione di questi enormi modelli e agli enormi costi per eseguirli", ha detto Yonatan Geifman, CEO e co-fondatore di Deci, a Metaverse Post. "Sfruttando i modelli di Deci, gli utenti Qualcomm possono sfruttare al meglio il loro investimento hardware con modelli che garantiscono il massimo utilizzo dell'hardware offrendo al contempo elevata velocità e precisione".
Deci collaborerà con Qualcomm Technologies per lanciare due modelli, ovvero DeciCoder-6B e DeciDiffusion 2.0.
Secondo l'annuncio, DeciCoder-6B è un modello da 6 miliardi di parametri per la generazione di codice che supporta otto linguaggi di programmazione e supera i modelli consolidati, mantenendo al contempo memoria ed efficienza computazionale.
D'altro canto, DeciDiffusion 2.0 è un modello di diffusione testo-immagine da 732 milioni di parametri, che stabilisce nuovi standard offrendo immagini di alta qualità con maggiore velocità ed efficienza.
Cosa distingue i modelli AI di Deci
Quando si utilizzano gli LLM in applicazioni reali, è fondamentale organizzare in modo efficiente i dati sui server che effettuano le previsioni. L'obiettivo principale è gestire quante più richieste utente possibili contemporaneamente. Trovare il giusto equilibrio tra la quantità di dati elaborati in una volta (dimensione del batch) e il tempo necessario per ottenere una risposta (latenza) dipende da due fattori chiave: la progettazione del modello e le capacità dell'hardware utilizzato per effettuare le previsioni.
"DeciCoder-6B ha un conteggio dei parametri inferiore rispetto alle sue controparti, con conseguente riduzione dell'ingombro di memoria e liberazione di 2 GB di memoria in più rispetto ai modelli CodeGen 2.5 7B e 7 miliardi di parametri. Il modello eccelle in memoria ed efficienza computazionale, consentendo un'efficace scalabilità dell'elaborazione batch senza un sostanziale consumo di memoria o notevoli aumenti di latenza", ha affermato il CEO di Deci, Yonatan Geifman.
Ha inoltre spiegato, "DeciDiffusion 2.0 fornisce immagini di alta qualità nel 40% in meno di iterazioni e impiega un componente U-Net più piccolo e veloce rispetto a Stable Diffusion 1.5. Può produrre immagini di alta qualità con meno timestep di diffusione durante il processo di inferenza."
Il modello riduce efficacemente il numero di passaggi necessari per generare un'immagine di qualità da 16 a soli 10.
La tecnologia di ricerca di architettura neurale di Deci, AutoNAC, ha svolto un ruolo cruciale nell'efficienza e nella scalabilità dei modelli. Automatizza il processo di ricerca in modo efficiente dal punto di vista del calcolo, distinguendolo dai metodi tradizionali. Questa tecnologia ha consentito a Deci di rilasciare una serie di modelli all'avanguardia in un breve lasso di tempo, con una spesa inferiore per l'elaborazione per la formazione rispetto ad altri grandi sviluppatori di modelli linguistici.
DeciCoder-6B: precisione su misura per l'eccellenza industriale
La capacità di DeciCoder-6B di supportare otto linguaggi di programmazione lo posiziona come modello di riferimento per un'ampia gamma di applicazioni. Geifman ha condiviso alcuni dei diversi modi in cui il modello può essere sfruttato.
"Nel campo dello sviluppo software, può aiutare nella generazione e nel completamento del codice, riducendo significativamente i tempi di sviluppo e migliorando la produttività. Inoltre, DeciCoder-6B può essere utilizzato per insegnare la programmazione, adattandosi a una varietà di linguaggi e livelli di difficoltà. Gli studenti possono utilizzarlo per controllare il loro lavoro e come manuale di soluzioni", ha detto Geifman di Deci a Metaverse Post.
"Inoltre, nel campo della sicurezza informatica, il modello può essere perfezionato per assistere nella scrittura e nell'analisi di script per la scansione delle vulnerabilità, con la capacità di automatizzare i controlli di sicurezza in vari ambienti di programmazione", ha aggiunto.
La collaborazione tra Deci e Qualcomm Technologies segna un passo significativo verso la democratizzazione del potere dell'IA generativa. Con modelli ottimizzati, tecnologia efficiente e un impegno verso l'apertura, la partnership mira a potenziare sviluppatori e settori in tutto il mondo con soluzioni di IA accessibili e convenienti.
Il post Deci e Qualcomm collaborano per democratizzare l'intelligenza artificiale generativa in tutti i settori è apparso per la prima volta su Metaverse Post.