Wu mengungkapkan bahwa Tether baru-baru ini memperkenalkan sistem QVAC yang baru, berhasil menjalankan model LLAMA 3.2 (1 miliar parameter) di perangkat mobile menggunakan llama.cpp, mencapai inferensi lokal yang efisien. QVAC adalah runtime inferensi dan fine-tuning yang umum, dirancang untuk mendukung berbagai jenis perangkat terminal termasuk smartphone, laptop, dan server, saat ini telah mendukung beberapa model, dan akan memperluas dukungan untuk lebih banyak model di masa depan.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Wu mengungkapkan bahwa Tether baru-baru ini memperkenalkan sistem QVAC yang baru, berhasil menjalankan model LLAMA 3.2 (1 miliar parameter) di perangkat mobile menggunakan llama.cpp, mencapai inferensi lokal yang efisien. QVAC adalah runtime inferensi dan fine-tuning yang umum, dirancang untuk mendukung berbagai jenis perangkat terminal termasuk smartphone, laptop, dan server, saat ini telah mendukung beberapa model, dan akan memperluas dukungan untuk lebih banyak model di masa depan.