A partire da oggi, ha reso noto OpenAI, tutti i clienti paganti delle API hanno accesso a GPT-4. Lo specialista dell’intelligenza artificiale generativa a marzo ha introdotto l’API ChatGPT per gli sviluppatori e all’inizio di questo mese ha rilasciato i primi aggiornamenti ai modelli chat-based. L’azienda ha sottolineato che prevede un futuro in cui i modelli basati sulla chat possano supportare qualsiasi caso d’uso.
OpenAI ha inoltre annunciato un piano di deprecation per i vecchi modelli della Completions API unito alla raccomandazione agli utenti di adottare la Chat Completions API.
GPT-4 è il modello di OpenAI più potente. Da marzo – mette in evidenza l’azienda – milioni di sviluppatori hanno richiesto l’accesso all’API GPT-4 e la gamma di prodotti innovativi che sfruttano GPT-4 cresce ogni giorno di più. Oggi tutti gli sviluppatori di API esistenti con una storia di pagamenti di successo possono accedere all’API GPT-4 con un contesto 8K. OpenAI prevede di aprire l’accesso a nuovi sviluppatori entro la fine di questo mese, per poi iniziare ad aumentare i limiti di velocità in base alla disponibilità di calcolo.
Sulla base della stabilità e della prontezza di questi modelli per l’uso su scala di produzione, OpenAI sta inoltre rendendo generalmente disponibili anche le API GPT-3.5 Turbo, DALL-E e Whisper. L’azienda sta lavorando per abilitare in modo sicuro il fine-tuning per GPT-4 e GPT-3.5 Turbo e prevede che questa funzione sarà disponibile nel corso dell’anno.
A marzo OpenAI ha introdotto l’API Chat Completions, che ora rappresenta il 97% dell’utilizzo delle API GPT dell’azienda.
L’API Completions iniziale è stata introdotta nel giugno 2020 per fornire un prompt di testo libero per interagire con i modelli linguistici di OpenAI. Da allora – sottolinea l’azienda – il team ha imparato che spesso è possibile fornire risultati migliori con un’interfaccia di prompt più strutturata. Il paradigma basato sulla chat si è dimostrato potente, in grado di gestire la maggior parte dei casi d’uso precedenti e le nuove esigenze di conversazione, offrendo al contempo maggiore flessibilità e specificità.
In particolare, l’interfaccia strutturata dell’API Chat Completions (ad esempio, messaggi di sistema, chiamate di funzioni) e le capacità di conversazione a più turni consentono agli sviluppatori di creare esperienze conversazionali e un’ampia gamma di attività di completamento. Inoltre, contribuisce a ridurre il rischio di attacchi di tipo prompt injection, poiché il contenuto fornito dall’utente può essere strutturalmente separato dalle istruzioni.
OpenAI ha dichiarato che intende continuare a investire la maggior parte degli sforzi della sua piattaforma in questa direzione, poiché crede che offrirà agli sviluppatori un’esperienza sempre più capace e facile da usare. L’azienda sta lavorando per colmare rapidamente le ultime lacune dell’API Chat Completions, come le probabilità di log per i token di completamento e una maggiore guidabilità per ridurre la “chattiness” delle risposte.
Nell’ambito dei maggiori investimenti nella Chat Completions API e degli sforzi per ottimizzare la capacità di calcolo, OpenAI ha annunciato che tra sei mesi ritirerà alcuni dei vecchi modelli che utilizzano la Completions API. Anche se questa API rimarrà accessibile, a partire da oggi l’azienda la etichetterà come “legacy” nella sua documentazione per gli sviluppatori. Per i futuri miglioramenti dei modelli e dei prodotti, OpenAI prevede di concentrarsi sulla Chat Completions API e non ha in programma di rilasciare pubblicamente nuovi modelli che utilizzino la Completions API.
A partire dal 4 gennaio 2024, i modelli di completamento più vecchi non saranno più disponibili e saranno sostituiti dai nuovi: i dettagli sono disponibili sul blog di OpenAI.
