Un sistema di IA contribuirà a produrre una scoperta premiata con il Nobel entro 12 mesi, ha dichiarato questa settimana il cofondatore di Anthropic, Jack Clark, a un pubblico dell’Università di Oxford.
Punti chiave:
- Clark prevede che ricercatori umani e IA coprodurranno una scoperta di livello Nobel entro un anno, con aziende gestite interamente da IA che genereranno milioni di entrate entro 18 mesi.
- Ha avvertito che la tecnologia comporta ancora una probabilità diversa da zero di spazzare via l’umanità, definendo tale rischio qualcosa che Anthropic si rifiuta di minimizzare.
- Entro la fine del 2028, Clark si aspetta sistemi di IA capaci di progettare i propri successori.
Le previsioni nella lezione di Oxford
Clark ha illustrato la tempistica in una lezione all’Università di Oxford mercoledì, in dichiarazioni reported da The Guardian.
Ha descritto un «vertiginoso senso di progresso» in tutto il settore.
Le sue previsioni si sono susseguite rapidamente. Ha said che robot bipedi assisteranno gli artigiani entro due anni e che aziende gestite esclusivamente da sistemi di IA genereranno milioni di dollari di entrate entro 18 mesi.
Entro la fine del 2028, si aspetta che l’IA progetti i propri successori.
Clark ha anche mantenuto gli avvertimenti in primo piano. Ha affermato che restano scenari plausibili in cui la tecnologia presenta una probabilità diversa da zero di uccidere ogni essere umano sul pianeta, e ha sottolineato che il rischio non è scomparso. Ha indicato il Anthropic's restricted Claude Mythos model, che si è proved capace di sfruttare vulnerabilità di cybersecurity.
Also Read: XRP Loses Key Support, Now Eyes A Drop Toward $1.31
Perché l’avvertimento di Clark conta
Clark ha detto che preferirebbe che l’umanità rallentasse lo sviluppo della tecnologia per guadagnare più tempo, ma non si aspetta che ciò accada. Ha attribuito la colpa a una corsa tra aziende e paesi rivali, in cui le rivalità commerciali e geopolitiche soffocano le preoccupazioni esistenziali.
Anthropic, fondata da ricercatori che hanno lasciato OpenAI per disaccordi sulla sicurezza, è stata accused dalla Casa Bianca di Trump e da altri accelerazionisti di alimentare paure per favorire una regolamentazione a lei congeniale. L’azienda respinge questa accusa.
Il professor Edward Harcourt, direttore dell’Institute for Ethics in AI, che ha co‑organizzato la lezione, ha sollevato una preoccupazione diversa. Ha avvertito che il fatto che le IA facciano sempre di più per gli esseri umani rischia di provocare una «atrofia cognitiva» che potrebbe indebolire il giudizio umano, e ha sostenuto la necessità di cosiddette IA socratiche che chiedano alle persone di svolgere più parte del lavoro di pensiero.
La previsione non è la prima volta che i leader di Anthropic fissano tempistiche aggressive. L’amministratore delegato Dario Amodei ha dichiarato a fine 2024 che un’IA più intelligente di un premio Nobel nella maggior parte dei campi potrebbe arrivare già nel 2026, e lo stesso Clark in passato ha collocato quel traguardo tra la fine del 2026 e l’inizio del 2027.
Read Next: Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply