Anthropic ha annunciato che i clienti possono ora fare il fine-tuning di Claude 3 Haiku – il modello più veloce e cost-effective dell’azienda – in Amazon Bedrock al fine di personalizzarne le conoscenze e le capacità in base alla loro attività, rendendo il modello più efficace per i task specializzati.
Il fine-tuning – sottolinea Anthropic – è una tecnica molto diffusa per migliorare le prestazioni del modello. Creando una versione customizzata, è possibile addestrare il modello a eccellere in flussi di lavoro altamente personalizzati.
Per mettere a punto Claude 3 Haiku, occorre innanzitutto preparare un insieme di coppie prompt-completamento di alta qualità, ovvero gli output ideali che si desidera che Claude fornisca per un determinato compito. L’API fine-tuning, ora disponibile in anteprima, utilizzerà i dati per creare il proprio Claude 3 Haiku custom. Utilizzando la console o l’API di Amazon Bedrock, è possibile testare e perfezionare il modello Claude 3 Haiku personalizzato fino a quando non soddisfa gli obiettivi di prestazione ed è pronto per il deployment.
Anthropic spiega che il fine-tuning consente di personalizzare Claude 3 Haiku in modo che possa acquisire conoscenze aziendali specialistiche, migliorando l’accuratezza e la coerenza. I vantaggi includono:
- Migliori risultati su attività specializzate: Miglioramento delle prestazioni per le azioni specifiche del dominio, come la classificazione, le interazioni con API personalizzate o l’interpretazione di dati specifici del settore. La messa a punto consente a Claude 3 Haiku di eccellere in aree cruciali per l’azienda rispetto a modelli più generali, grazie alla codifica delle conoscenze aziendali e di dominio.
- Velocità più elevate a costi inferiori: Riduzione dei costi per le implementazioni di produzione in cui Claude 3 Haiku può essere utilizzato al posto di Sonnet o Opus, restituendo al contempo risultati più rapidi.
- Formattazione coerente e allineata al brand: Generazione di output strutturati in modo coerente e adattati alle esatte specifiche del cliente, come report standardizzati o schemi personalizzati, garantendo la conformità ai requisiti normativi e ai protocolli interni.
- API di facile utilizzo: Le aziende di tutte le dimensioni possono innovare in modo efficiente senza dover disporre di grandi competenze o risorse interne nel campo dell’intelligenza artificiale. Chiunque può mettere a punto i modelli senza problemi, senza bisogno di competenze tecniche approfondite.
- Sicuro e protetto: I dati di training proprietari rimangono all’interno dell’ambiente AWS dei clienti. La tecnica di fine-tuning di Anthropic preserva il basso rischio di risultati dannosi della famiglia di modelli Claude 3.
Anthropic sottolinea inoltre di aver messo a punto Haiku per moderare i commenti online sui forum Internet, identificando insulti, minacce e contenuti espliciti. Il fine-tuning ha migliorato l’accuratezza della classificazione dall’81,5% al 99,6%, riducendo al tempo stesso il numero di token per query dell’85%.
Il fine-tuning per Claude 3 Haiku in Amazon Bedrock è ora disponibile in preview nella regione AWS US West (Oregon). Al momento del lancio, è supportato il fine-tuning basato sul testo con lunghezze di contesto fino a 32K token, con l’intenzione da parte di Anthropic di introdurre capacità di visione artificiale in futuro. Ulteriori dettagli sono disponibili nel blog e nella documentazione di AWS.
