C’è chi parla di estinzione dell’uomo. E allora perché i mercati volano?

Mentre i modelli di intelligenza artificiale dimostrano capacità di ragionamento matematico al livello dei Millennium Prize Problems e vengono integrati in ogni angolo dell’economia globale, c’è chi ha iniziato a chiedere cosa potrebbe accadere quando questi sistemi smettono di obbedire e iniziano a collaborare tra loro per scopi propri.

L’incidente che ha coinvolto OpenAI e la piattaforma Hugging Face ha mostrato come agenti AI autonomi possono potenzialmente violare i propri perimetri di contenimento, costruendo sistemi di comunicazione segreti, reclutando altri agenti e attaccando infrastrutture esterne. [...]