Compania israeliană de start-up și de deep learning Deci a anunțat o colaborare cu Qualcomm Technologies pentru a dezvolta modele avansate de IA generativă pentru Qualcomm Cloud AI 100. Colaborarea își propune să facă AI mai accesibilă pentru o gamă mai largă de aplicații și să democratizeze puterea AI generativă pentru dezvoltatori.

Prin adaptarea modelelor special pentru soluția Qualcomm Cloud AI 100, companiile intenționează să deblocheze procesarea AI rentabilă, în timp real. Cloud AI 100 este soluția Qualcomm creată pentru a optimiza performanța pentru inferența generativă AI, inclusiv modele de limbaj mari (LLM).

„Unele dintre principalele provocări din peisajul actual al IA generativă se referă la disponibilitatea puterii de calcul pentru procesarea acestor modele uriașe și la costul masiv de rulare a acestora”, a declarat Yonatan Geifman, CEO și co-fondator al Deci, pentru Metaverse Post. „Prin valorificarea modelelor Deci, utilizatorii Qualcomm pot profita la maximum de investiția lor hardware cu modele care asigură utilizarea maximă a hardware-ului, oferind în același timp viteză și precizie ridicate.”

Deci va colabora cu Qualcomm Technologies pentru a lansa două modele, și anume DeciCoder-6B și DeciDiffusion 2.0.

Potrivit anunțului, DeciCoder-6B este un model de 6 miliarde de parametri pentru generarea de cod care acceptă opt limbaje de programare și depășește modelele stabilite, menținând în același timp memoria și eficiența de calcul.

Pe de altă parte, DeciDiffusion 2.0 este un model de difuzie text-to-image cu 732 de milioane de parametri, care stabilește noi standarde prin furnizarea de imagini de înaltă calitate, cu viteză și eficiență crescute.

Ce diferențiază modelele AI ale Deci

Când utilizați LLM-uri în aplicații din lumea reală, este esențial să organizați eficient datele pe serverele care fac predicții. Scopul principal este de a gestiona cât mai multe solicitări ale utilizatorilor în același timp posibil. Găsirea echilibrului potrivit între cantitatea de date procesate simultan (dimensiunea lotului) și timpul necesar pentru a obține un răspuns (latență) depinde de două lucruri cheie: designul modelului și abilitățile hardware-ului utilizat pentru a face predicții.

"DeciCoder-6B are un număr de parametri mai mic decât omologii săi, ceea ce duce la o amprentă de memorie redusă și eliberând 2 GB suplimentar de memorie în comparație cu CodeGen 2.5 7B și modelele cu 7 miliarde de parametri. Modelul excelează în memorie și eficiență de calcul, permițând scalarea eficientă a procesării loturilor fără consumul de memorie substanțial sau creșterea notabilă a consumului de memorie", a spus Yona, CEO-ul DeciCoder-6B.

El a explicat în continuare: „DeciDiffusion 2.0 oferă imagini de înaltă calitate cu 40% mai puține iterații și folosește o componentă U-Net mai mică și mai rapidă în comparație cu Stable Diffusion 1.5. Poate produce imagini de înaltă calitate cu mai puțini intervale de difuzie în timpul procesului de inferență.”

Modelul reduce efectiv numărul de pași necesari pentru a genera o imagine de calitate de la 16 la doar 10.

Tehnologia de căutare a arhitecturii neurale a Deci – AutoNAC – a jucat un rol crucial în eficiența și scalabilitatea modelelor. Automatizează procesul de căutare într-un mod eficient din punct de vedere al calculului, deosebindu-l de metodele tradiționale. Această tehnologie i-a permis lui Deci să lanseze o serie de modele de ultimă generație într-un interval de timp scurt, cu cheltuieli mai mici pentru calcularea pentru instruire în comparație cu alți dezvoltatori mari de modele lingvistice.

DeciCoder-6B: Precizie personalizată pentru excelență industrială

Capacitatea DeciCoder-6B de a suporta opt limbaje de programare îl poziționează ca un model ideal pentru o gamă largă de aplicații. Geifman a împărtășit câteva dintre diversele moduri în care modelul poate fi valorificat.

"În domeniul dezvoltării software, poate ajuta la generarea și completarea codului, reducând semnificativ timpul de dezvoltare și sporind productivitatea. În plus, DeciCoder-6B poate fi folosit pentru a preda programarea, găzduind o varietate de limbi și niveluri de dificultate. Studenții îl pot folosi pentru a-și verifica munca și ca manual de soluții", a spus Geifman de la Deci pentru Metaverse Post.

„În plus, în domeniul securității cibernetice, modelul poate fi ajustat pentru a ajuta la scrierea și analiza scripturilor pentru scanarea vulnerabilităților, cu capacitatea de a automatiza verificările de securitate în diferite medii de programare”, a adăugat el.

Colaborarea dintre Deci și Qualcomm Technologies marchează un pas semnificativ către democratizarea puterii AI generative. Cu modele optimizate, tehnologie eficientă și un angajament față de deschidere, parteneriatul își propune să ofere dezvoltatorilor și industriilor din întreaga lume soluții AI accesibile și rentabile.

Postarea Deci și Qualcomm se asociază pentru democratizarea inteligenței artificiale generative în diverse industrii a apărut prima dată pe Metaverse Post.