Notícias do CoinWorld, a Tether recentemente apresentou seu novo sistema QVAC, conseguindo executar o modelo LLAMA 3.2 (1 bilhão de parâmetros) em dispositivos móveis com llama.cpp, realizando inferência local eficiente. O QVAC é um runtime de inferência e ajuste fino genérico, projetado para se adaptar a vários dispositivos terminais, incluindo smartphones, laptops e servidores, atualmente suportando vários modelos, e no futuro expandirá o suporte a mais modelos. [吴说]
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
Notícias do CoinWorld, a Tether recentemente apresentou seu novo sistema QVAC, conseguindo executar o modelo LLAMA 3.2 (1 bilhão de parâmetros) em dispositivos móveis com llama.cpp, realizando inferência local eficiente. O QVAC é um runtime de inferência e ajuste fino genérico, projetado para se adaptar a vários dispositivos terminais, incluindo smartphones, laptops e servidores, atualmente suportando vários modelos, e no futuro expandirá o suporte a mais modelos. [吴说]