La magnifica umanità è l’antidoto all’Ai killer

All’inizio di settembre un ingegnere di Anthropic, l’azienda che produce Claude, concorrente di ChatGpt, si è dimesso sostenendo che i grandi laboratori di intelligenza artificiale stessero scommettendo con le nostre vite. Evan Hubinger, ricercatore di Anthropic che lavora sulla sicurezza e sull’allineamento dei modelli di Ai ai valori umani, ha risposto che sì, crede alla possibilità che l’Ai uccida tutti gli esseri umani, con una stima personale che supera il dieci per cento entro un decennio. L’evento non è isolato. Questi allarmi sono piuttosto ricorrenti nel settore, e i pionieri del campo di ricerca sulla sicurezza delle Ai (“Ai Safety”, un campo diverso dalla “Ai Security”) suonano l’allarme da più di dieci anni ormai. Questa volta, però, dati gli ultimi sviluppi delle capacità degli “agenti” e delle stupefacenti violazioni che sono avvenute negli ultimi mesi, queste paure sono diventate dibattito pubblico molto velocemente. Pochi giorni dopo, i numeri uno delle aziende che svil...