OpenAI ha finanziato dieci team da tutto il mondo per progettare idee e strumenti per governare collettivamente l’intelligenza artificiale, e ora ha fornito un aggiornamento sulle innovazioni e gli insegnamenti ottenuti, invitando al tempo stesso ricercatori e ingegneri a unirsi all’azienda per proseguire questo lavoro.
Man mano che l’AI diventa sempre più avanzata e diffusa, sottolinea la società sviluppatrice di ChatGPT, secondo OpenAI è essenziale coinvolgere il pubblico nel decidere come l’intelligenza artificiale debba comportarsi, per allineare meglio i suoi modelli ai valori dell’umanità.
A maggio dello scorso anno l’azienda ha annunciato il Democratic Inputs to AI grant program e poi ha assegnato 100.000 dollari a 10 team su quasi 1.000 candidati per progettare, sviluppare e testare idee che utilizzino metodi democratici per decidere le regole che governano i sistemi di intelligenza artificiale.
I team hanno affrontato sfide come il recruiting di partecipanti eterogenei al di là del divario digitale, la produzione di un risultato coerente che rappresentasse diversi punti di vista e la progettazione di processi con una trasparenza sufficiente per essere ritenuti affidabili dal pubblico.
L’azienda ha sottolineato che OpenAI si baserà su questa iniziativa nel progettare un processo end-to-end per la raccolta di input da parte di stakeholder esterni e per utilizzare tali input per addestrare e modellare il comportamento dei suoi modelli, combinando la ricerca interna con le idee e i prototipi sviluppati dai team del programma di sovvenzione, nei prossimi mesi.
Sul proprio blog, OpenAI ha condiviso i punti principali su come i beneficiari delle sovvenzioni hanno innovato in tema di tecnologia democratica, sui principali risultati del programma di sovvenzioni e sui piani di attuazione dell’azienda.
Oltre a riassumere le lezioni apprese, OpenAI ha anche condiviso il codice creato dai team per questo grant program e presentato delle brevi sintesi del lavoro svolto da ciascuno dei dieci team.
L’obiettivo dichiarato dall’azienda è quello di progettare sistemi che incorporino gli input del pubblico per orientare potenti modelli di intelligenza artificiale, affrontando al contempo le sfide poste da questa tecnologia.
Per continuare a fare progressi in questa ricerca, OpenAI sta formando un team di “Allineamento collettivo” composto da ricercatori e ingegneri che si occuperà di implementare un sistema di raccolta e codifica dei contributi pubblici sul comportamento dei modelli nei sistemi, nonché di
proseguire a lavorare con consulenti esterni e grant team, anche eseguendo progetti pilota per incorporare i prototipi nella gestione dei modelli di OpenAI.
OpenAI sta reclutando ingegneri ricercatori con diversi background tecnici per sviluppare questo lavoro ed è possibile candidarsi sul sito dell’azienda.
Sul blog ufficiale di OpenAI sono disponibili ulteriori informazioni sui temi e sulle sfide oggetto di ricerca da parte di ciascuno dei team del grant program.
