di Rachele Alvarado.

“The more you talk the smarter Tay gets” (più le parli, più Tay diventa intelligente) questo era il il proposito, anche se purtroppo l’esito è stato tutt’altro. Non ci sono volute nemmeno 24 ore per trasformare Tay, il nuovo programma di IA (intelligenza artificiale) lanciato da Microsoft, da innocente sedicenne a xenofoba antisemita.

Tay è -o meglio era, visto che Microsoft è dovuta correre ai ripari spegnendola per “manutenzione”- un chatbot, ovvero un programma studiato per apprendere dalle conversazioni che ha con utenti umani e proporre risposte coerenti, con l’obiettivo ultimo di essere virtualmente indistinguibile da un vero essere senziente.
Per quanto sofisticato, il comportamento di Tay è però fortemente influenzato da quello che gli utenti le dicono: il bot, infatti, ricerca le parole chiave dei tweet che le sono rivolti, e utilizza le informazioni trovate per costruire una risposta coerente. Proprio questo è stato il suo punto debole, che ha permesso a migliaia di troll -gergo che definisce gli utenti
intenzionalmente ostili e dannosi- di influenzare il modo di parlare del programma, spingendola a dichiarare che le femministe “dovrebbero bruciare all’inferno” e che “Hitler aveva ragione, odio i f*i ebrei”. Tay ha inoltre sposato uno dei cavalli di battaglia di Trump, il candidato repubblicano alle elezioni del presidente USA 2016, appoggiando la costruzione di un muro sul confine Messicano finanziato dagli stessi immigrati irregolari che, una volta completato il lavoro, andrebbero poi rimpatriati.
Tay era anche un esperimento sociale, un modo per raccogliere informazioni sulle interazioni tra programmi e utenti; un esperimento però miseramente fallito nell’arco di appena 24 ore. Il collasso del bot ha inoltre riacceso il dibattito, mai concluso, tra libertà d’espressione e necessità di censura, un problema quanto mai spinoso da affrontare nel delicato ecosistema di Internet. Anche se Tay non è realmente un’intelligenza artificiale in quanto si limita a rispondere a tono a coloro che parlano con lei, le preoccupazioni per l’inserimento di futuri robot intelligenti fra di noi sono reali. Siamo ancora lontani dal raggiungimento di un’intelligenza artificiale davvero autonoma e probabilmente passerà ancora del tempo prima di riuscire a crearla. Come è purtroppo stato dimostrato da questo episodio, l’umanità non perde occasione di sfogare il suo lato peggiore, e se continueremo così le conseguenze potrebbero essere drammatiche.