Cosa è successo
John Shulman, co-fondatore di OpenAI, aveva lasciato l'azienda ad agosto 2024 per passare ad Anthropic, compagnia concorrente di San Francisco, con l'intento di lavorare maggiormente sull'AI alignment e tornare a fare mansioni più pratiche e tecniche. Il nuovo ruolo è già finito e ancora non si conoscono i motivi.
Riassunto
- John Schulman, co-fondatore di OpenAI, ha lasciato il suo ruolo presso la startup di intelligenza artificiale Anthropic, come annunciato dalla società mercoledì sera.
- Schulman aveva lasciato OpenAI ad agosto per unirsi ad Anthropic con l’intento di concentrarsi maggiormente sull'AI alignment e anche tornare a compiere lavori tecnici più pratici.
Che cos'è l'AI alignment?
L'AI Alignment è il campo di ricerca che studia come fare in modo che l'intelligenza artificiale segua gli obiettivi desiderati dagli esseri umani, evitando comportamenti imprevisti o dannosi. Il problema nasce dal fatto che un'IA avanzata potrebbe interpretare i comandi in modi non previsti o perseguire obiettivi in maniera estremamente efficace ma distruttiva. Per esempio, se dici a un'IA di "massimizzare la produzione di graffette", potrebbe trasformare l’intero pianeta in fabbriche di graffette senza preoccuparsi dell'umanità. L'obiettivo dell'AI Alignment è sviluppare metodi affinché l'IA comprenda e rispetti i valori umani.
- Jared Kaplan, direttore scientifico di Anthropic, ha espresso rammarico per la partenza di Schulman ma ha dichiarato di supportare la sua decisione di cercare nuove opportunità.
- Anthropic è un'importante concorrente di OpenAI nel settore dei modelli fondamentali di intelligenza artificiale e ha generato un fatturato annuo di circa 875 milioni di dollari, offrendo accesso ai suoi modelli direttamente e tramite servizi cloud di terze parti come Amazon Web Services.
- La notizia sull'uscita di Schulman dalla società era stata inizialmente riportata da The Information e Schulman non ha ancora commentato.
Questo testo è un riassunto del seguente articolo (eng): Reuters
Alternativa in italiano: non pervenuta
