Gli errori umani che confondono l’intelligenza artificiale: come usiamo male i chatbot

Una mia parente ha sentito storie strane mentre lavorava a una linea di assistenza sanitaria durante la pandemia di Covid. Il suo compito era aiutare le persone a eseguire i test rapidi antigenici, usati milioni di volte durante il lockdown. Ma alcuni chiamanti erano chiaramente confusi dalla procedura. “Allora, ho bevuto il liquido nella provetta. E ora cosa devo fare?” chiese uno.

Questa confusione dell’utente può sembrare un esempio estremo di un problema tecnologico comune: il modo in cui le persone comuni usano un prodotto o servizio nel mondo reale può divergere enormemente dalle intenzioni dei progettisti in laboratorio.