Questa pagina contiene un riassunto del seguente articolo: cnbc.com (eng)
Riassunto
Jan Leike, uno dei principali ricercatori sulla sicurezza presso OpenAI, si è unito alla startup di intelligenza artificiale rivale Anthropic dopo aver annunciato le sue dimissioni dalla società.
La sua precedente squadra si è concentrata sui rischi dell'IA a lungo termine prima di essere sciolta da OpenAI. Leike è entusiasta di continuare la missione di superallineamento con il suo nuovo team, che si concentrerà su supervisione scalabile, generalizzazione debole-forte e ricerca di allineamenti automatizzati.
Anthropic, sostenuta da Amazon, ha ricevuto finanziamenti anche da Google, Salesforce e Zoom. L'importanza della sicurezza dell'IA è cresciuta rapidamente dal lancio del ChatGPT da parte di OpenAI nel 2022, suscitando preoccupazioni riguardo al rilascio precipitoso di potenti prodotti AI senza considerare adeguatamente i potenziali danni sociali.
OpenAI ha creato un nuovo comitato per la sicurezza guidato da alti dirigenti, incluso il CEO Sam Altman, al fine di raccomandare decisioni in materia di sicurezza per i progetti e le operazioni dell'azienda.
Contesto
Il testo che segue non è presente all'interno dell'articolo sopra citato.
Cosa è successo prima
Prima delle dimissioni di Jan Leike da OpenAI, la sua squadra era fortemente impegnata nella ricerca sulla sicurezza dell'intelligenza artificiale, focalizzandosi sui rischi a lungo termine associati a questa tecnologia. OpenAI, fondata nel 2015 da Elon Musk, Sam Altman e altri, ha da sempre sottolineato l'importanza della sicurezza e dell'allineamento etico dei suoi modelli AI. Tuttavia, la decisione di sciogliere il team di Leike riflette un cambiamento di priorità all'interno di OpenAI, probabilmente spinto da un bilanciamento tra innovazione rapida e considerazioni di sicurezza (MacRumors) (MacRumors).
Chi sono i protagonisti
- Jan Leike: Ex principale ricercatore sulla sicurezza presso OpenAI
- OpenAI: Un'organizzazione di ricerca sull'intelligenza artificiale nota per lo sviluppo di ChatGPT e altri avanzati modelli di linguaggio.
- Anthropic: Start-up di intelligenza artificiale sostenuta da grandi aziende come Amazon, Google, Salesforce e Zoom.
- Amazon, Google, Salesforce, Zoom: Queste aziende hanno fornito finanziamenti significativi a Anthropic.
- Sam Altman: CEO di OpenAI, guida il nuovo comitato per la sicurezza dell'azienda.
La fonte
La fonte dell'informazione è CNBC.com, un sito web noto per la sua copertura accurata e tempestiva di notizie economiche e tecnologiche. Secondo Media Bias/Fact Check, CNBC ha una buona reputazione per quanto riguarda l'affidabilità e ha una leggera inclinazione verso il centro-sinistra. Tuttavia, è generalmente considerata una fonte affidabile con pochi casi di fallimenti nel fact checking (yahoo) (markets.businessinsider.com) (Gadgets 360).
L'attendibilità della fonte è stata analizzata tramite Media Bias/Fact Check.
I testi presenti all'interno di questa pagina sono stati inizialmente generati tramite intelligenza artificiale e poi revisionati e corretti a mano.
