Fine-tuning di modelli LLM
Adattiamo modelli generativi (open-source o API) al linguaggio, ai formati e ai task della tua azienda: più accuratezza sul dominio, output più stabili, meno prompt lunghi — con dataset, eval e deploy governati.
Parte di IA & LLM · Marconi Software S.R.L.
Cos’è il fine-tuning (in pratica)
Il fine-tuning aggiorna i pesi (o adapter LoRA/QLoRA) di un modello base usando esempi tuoi: domande/risposte, classificazioni, bozze di documenti, stili di comunicazione. Non sostituisce i tuoi dati in tempo reale (per quello usiamo RAG): specializza il comportamento del modello.
Quando ha senso
Output sempre nello stesso schema (JSON, report, ticket)
Linguaggio settoriale (edilizia, legal, manufacturing, hospitality)
Ridurre latency e complessità rispetto a prompt enormi + molti tool call
Privacy: modello specializzato self-hosted senza mandare tutto a un SaaS generico
Tone of voice aziendale costante su migliaia di messaggi
Quando NON serve
Se ti serve “sapere cosa c’è nell’ultimo PDF caricato” → RAG. Se i requisiti cambiano ogni settimana → prompt + retrieval. Ti aiutiamo a scegliere nella discovery (vedi anche pagina LLM).
Pipeline Marconi
Dataset — raccolta, pulizia, anonimizzazione, split train/eval
Scelta modello — small/medium open-source vs fine-tune su API provider
Training — LoRA/QLoRA o full FT; hyperparam e early stopping
Eval — metriche automatiche + review umana su casi critici
Deploy — endpoint API, auth, rate limit, versioning modelli
Monitor — drift, feedback utenti, re-train pianificato
Deliverable
Dataset documentato e checklist qualità
Modello / adapter versionato + scheda eval
API di inferenza (cloud o on-prem)
Integrazione in app/assistente esistente
Runbook operazioni e sicurezza
Tempi tipici
PoC fine-tuning mirato: spesso 3–6 settimane (dataset + train + eval). Industrializzazione con integrazioni e monitoring: da lì in poi, a scope. Preventivo dopo audit dati e KPI.
FAQ fine-tuning
Quanti esempi servono?
Dipende dal task. Per adapter LoRA su task stretti bastano centinaia di esempi di qualità; per domini ampi ne servono di più. Preferiamo qualità a quantità.
Open-source o OpenAI/Anthropic?
Valutiamo insieme: privacy, costi, latenza, skill del team. Entrambi i percorsi sono supportati.
Il modello “impara” i segreti aziendali?
Il fine-tuning non è un database: non sostituisce ACL e RAG. Evitiamo di mettere segreti nel train set; usiamo anonimizzazione e policy chiare.
Vuoi una proposta su LLM o fine-tuning?
Consulenza gratuita · PoC in poche settimane · sede Dodici Morelli (FE).
Richiedi preventivo WhatsApp CalendlyCorrelati: IA & LLM · Intelligenza artificiale · Guida agenti AI · Contatti