Saat melihat sebuah alat AI kecil bisa menjawab pertanyaan dengan baik, reaksi pertama saya adalah, “Berarti ini sudah bisa dipakai, kan?” Namun, kalau benar-benar dibuka untuk digunakan orang lain, ceritanya berbeda. Koneksi yang lancar dan titik akses yang aman perlu dipertimbangkan lagi.
Saat membaca tutorial LLM dari @Acurast kali ini, saya kebetulan memperhatikan hal tersebut. Pihak resmi menyediakan cara menjalankan model GGUF di Processor ponsel, menggunakan llama server bawaan untuk inferensi, dan menyediakan API yang kompatibel dengan OpenAI. Aplikasi yang sudah menggunakan API semacam ini berpeluang terhubung langsung ke model di ponsel hanya dengan sedikit mengubah konfigurasi.
Yang menarik, tutorial tersebut menggunakan localtunnel agar model bisa diakses dari luar. Pihak resmi sendiri mengingatkan bahwa contoh ini tidak aman dan jangan langsung digunakan untuk layanan produksi. Modelnya memang sudah berjalan dan API-nya bisa dipanggil, tetapi urusan keamanan baru dimulai. Pengingat ini terasa sangat masuk akal.
Belakangan saya menemukan bahwa #Acurast juga punya panduan Tunnel tersendiri. Panduan ini menggunakan terowongan balik agar layanan di ponsel bisa diakses dari luar, mendukung HTTPS, dan dapat memverifikasi domain milik sendiri. Ini merupakan solusi yang berbeda dari localtunnel di tutorial lama. Sekalipun sudah memakai HTTPS, autentikasi pengguna dan izin akses di aplikasi tetap perlu diperiksa satu per satu.
Saya suka karena pihak resmi menjelaskan batasan-batasan ini secara terbuka. Menjalankan model AI di ponsel saja sudah menarik, tetapi masih banyak detail yang perlu ditangani sebelum contoh yang bisa berjalan benar-benar siap digunakan orang lain dalam jangka panjang. Pengguna biasa hanya menginginkan hal sederhana: buka dan langsung pakai, tanpa perlu memikirkan apakah titik akses yang mereka gunakan aman.
👉 https://hub.acurast.com/rebellion?ref=apksoh
Saat membaca tutorial LLM dari @Acurast kali ini, saya kebetulan memperhatikan hal tersebut. Pihak resmi menyediakan cara menjalankan model GGUF di Processor ponsel, menggunakan llama server bawaan untuk inferensi, dan menyediakan API yang kompatibel dengan OpenAI. Aplikasi yang sudah menggunakan API semacam ini berpeluang terhubung langsung ke model di ponsel hanya dengan sedikit mengubah konfigurasi.
Yang menarik, tutorial tersebut menggunakan localtunnel agar model bisa diakses dari luar. Pihak resmi sendiri mengingatkan bahwa contoh ini tidak aman dan jangan langsung digunakan untuk layanan produksi. Modelnya memang sudah berjalan dan API-nya bisa dipanggil, tetapi urusan keamanan baru dimulai. Pengingat ini terasa sangat masuk akal.
Belakangan saya menemukan bahwa #Acurast juga punya panduan Tunnel tersendiri. Panduan ini menggunakan terowongan balik agar layanan di ponsel bisa diakses dari luar, mendukung HTTPS, dan dapat memverifikasi domain milik sendiri. Ini merupakan solusi yang berbeda dari localtunnel di tutorial lama. Sekalipun sudah memakai HTTPS, autentikasi pengguna dan izin akses di aplikasi tetap perlu diperiksa satu per satu.
Saya suka karena pihak resmi menjelaskan batasan-batasan ini secara terbuka. Menjalankan model AI di ponsel saja sudah menarik, tetapi masih banyak detail yang perlu ditangani sebelum contoh yang bisa berjalan benar-benar siap digunakan orang lain dalam jangka panjang. Pengguna biasa hanya menginginkan hal sederhana: buka dan langsung pakai, tanpa perlu memikirkan apakah titik akses yang mereka gunakan aman.
👉 https://hub.acurast.com/rebellion?ref=apksoh