08 — Inferenza on-prem con Ollama, vLLM, llama.cpp
Servire LLM on-premise: Ollama per dev e small prod, vLLM per high-throughput, llama.cpp per CPU/edg…
02 — LLM scaling laws e capacità emergenti
Da Kaplan a Chinchilla: le leggi che predicono performance LLM al variare di compute, parametri e dati. Capacità emergenti e plateau.
Cosa ne pensi di questo articolo?
In Breve
Da Kaplan a Chinchilla: le leggi che predicono performance LLM al variare di compute, parametri e dati. Capacità emergenti e plateau.
Discuti questo articolo nella community
Unisciti al gruppo Telegram per discutere con altri sviluppatori, fare domande e condividere le tue esperienze.
Ti è piaciuto questo articolo?
Esplora altri contenuti sul blog o scopri i miei progetti
Commenti
Caricamento commenti...
Accedi per lasciare un commento