Tonggak Ignition telah selesai, membawa model bahasa besar (LLM) ke Internet Computer, memungkinkan penggunaan LLM dalam kontrak pintar hanya dengan beberapa baris kode.
Apa itu Tonggak Ignition?
Tonggak Ignition adalah bagian dari peta jalan ICP untuk "AI terdesentralisasi", yang berfokus pada menghubungkan kontainer ke LLM off-chain, memungkinkan pengembang menggunakan AI dalam dapp mereka tanpa pengaturan yang rumit berkat AI workers.
Fitur baru Ignition
Pustaka LLM yang mudah diintegrasikan
Untuk menyederhanakan koneksi kontainer Anda dengan LLM, kami menambahkan pustaka dalam tiga bahasa yang digunakan di Internet Computer: Motoko, Rust, dan TypeScript.
Pustaka ini memungkinkan Anda dengan cepat menggunakan LLM dalam dapp, misalnya, berikut adalah bagaimana menggunakan beberapa baris kode Motoko untuk mengimplementasikan interaksi antara kontainer dan Llama 3.1:
Contoh di atas dapat ditemukan dan dimodifikasi di ICP Ninja, yang menunjukkan bagaimana mengirim kueri ke LLM dan menerima respons dengan pengaturan minimal.
Berikut adalah contoh lain yang menunjukkan bagaimana menggunakan alat untuk memanggil LLM:
Anda dapat menemukan demo langsung menggunakan alat di sini, serta kode sumber demo di sini:
https://twf3b-uqaaa-aaaal-qsiva-cai.icp0.io
https://github.com/dfinity/llm/tree/main/examples
AI Workers
Untuk menghubungkan kontainer ke LLM off-chain, kami telah membangun produk minimum yang layak dari AI workers, sebuah sistem sederhana yang memungkinkan kontainer mengambil data dari LLM off-chain, di mana AI workers menangani komunikasi sehingga kontainer dapat mengirim permintaan secara real-time dan menerima respons dari LLM.
Saat ini, AI workers mendukung Llama 3.1 8B, Llama 4 Scout, dan Qwen 3 32B, pilihan ini memungkinkan pengembang untuk memilih LLM yang sesuai untuk proyek mereka dengan fleksibel.
Gambar di bawah ini menunjukkan bagaimana menggunakan AI workers untuk mengirimkan prompt ke penyedia LLM off-chain.
Cara kerjanya:
Kontainer mengirimkan prompt ke "Kontainer LLM" melalui pustaka LLM yang kami sebutkan, yang merupakan kontainer khusus untuk menerima prompt LLM;
Kontainer LLM menyimpan prompt ini dalam antrean;
AI workers terus memeriksa Kontainer LLM untuk mendapatkan prompt;
AI workers mengeksekusi prompt dan mengembalikan respons ke Kontainer LLM, yang kemudian mengembalikannya ke kontainer yang memanggil.
Kasus penggunaan nyata
Pengembang sudah menggunakan pustaka LLM untuk membangun dapp kreatif, seperti:
Dompet dengan fitur obrolan: Tambahkan AI percakapan ke dompet kripto untuk interaksi pengguna yang lebih baik (akan segera diluncurkan di OISY);
DAO dengan analisis sentimen: Gunakan LLM untuk menganalisis sentimen komunitas dan membimbing keputusan portofolio, seperti yang dilakukan di Alice DAO.
Contoh-contoh ini menunjukkan bagaimana AI workers mendukung berbagai aplikasi di Internet Computer.
Mengapa ini penting dan bagaimana cara memulai
Tonggak Ignition memungkinkan pengembang dengan mudah mengintegrasikan LLM ke dalam proyek Internet Computer mereka, mendukung dapp baru seperti chatbot, alat analisis, dan aplikasi DeFi yang didorong oleh AI.
Dengan menggabungkan LLM dengan kemampuan Internet Computer (seperti Chain Fusion, panggilan HTTPS, dan acak on-chain), pengembang dapat membangun solusi yang kreatif dan kuat.
Siap untuk mencoba? Jelajahi proyek LLM Chatbot di ICP Ninja, lihat demo langsung, atau gali lebih dalam kode dan contoh di repositori kami:
https://icp.ninja
https://vgjrt-uyaaa-aaaal-qsiaq-cai.icp0.io
https://github.com/dfinity/llm
Konten IC yang Anda pedulikan
Kemajuan teknologi | Informasi proyek | Kegiatan global
Simpan dan ikuti saluran IC di Binance
Dapatkan informasi terbaru