L’intelligenza artificiale continua a far discutere. In un post pubblicato sul suo blog, OpenAi ha presentato sei nuovi rapporti su comportamenti imprevisti o preoccupanti dei suoi modelli di intelligenza artificiale osservati negli ultimi sei mesi. Con la pubblicazione, OpenAi intende contribuire a “costruire un consenso più ampio e informato sui progressi della ricerca” relativa all’intelligenza artificiale, con i report che “possono aiutare a identificare problemi che altri sviluppatori di AI potrebbero incontrare quando i loro sistemi raggiungono capacità simili, rivelare debolezze nelle misure di sicurezza o mettere in discussione le ipotesi sul comportamento dei modelli”.
Nei giorni scorsi il co-fondatore e Ceo di Anthropic, Dario Amodei, ha chiesto esplicitamente al settore dell’IA di rallentare, impegnando la propria azienda a seguire il primo passo di un piano in tre fasi, dopo aver avvertito che una versione più potente dello sciame di IA – responsabile dello straordinario incidente di sicurezza di quest’estate, in cui agenti interni di OpenAI hanno avuto accesso a Internet senza autorizzazione e attaccato Hugging Face – potrebbe potenzialmente assumere il controllo dei computer di tutta la rete entro sei mesi.