Facebook: la (vera) storia dei bot riavviati per colpa della loro lingua

02 Agosto, 2017, 20:12 | Autore: Abelardo Magnotti
  • Facebook stoppa IA bot'ribelli creano lingua indecifrabile

Allarme rosso o semplice evoluzione di percorso? Un "comportamento" anomalo, anzi, preoccupante tanto che Facebook ha deciso di sospendere un esperimento sull'intelligenza artificiale. "Ecco, la fine per noi umani sta arrivando", sono questi i commenti apocalittici apparsi sui forum di appassionati e sognatori della fantascienza. In verità si è trattato solo di un errore di programmazione che ha fatto sì che i bot modificassero la lingua inglese per semplificare la comunicazione tra loro.

Alice e Rob (nomi già conosciuti nell'ambito della crittografia e nella teoria dei giochi) i due bot in questione, erano capaci di dialogare tra loro in lingua inglese e di portare a termine trattative come quella di dividersi due libri, tre palloni da basket e un cappello da cowboy. Questa improvvisazione 2.0 ha messo in allarme i ricercatori e li ha spinti a bloccare la sperimentazione.

Questo è il motivo per cui sono stati interrotti per essere riprogrammati e inserire appunto la necessità di rimanere all'interno di una corretta grammatica comprensibile all'uomo.

Il linguaggio sconosciuto era simile all'inglese e tuttavia non comprensibile ai programmatori, in quanto le AI hanno utilizzato le parole in modo diverso da come le utilizziamo normalmente, ma la sequenza non era casuale.

"Il nostro interesse è che i bot possano un giorno parlare alla gente, soddisfare le loro richieste", ha spiegato Mike Lewis del programma Facebook AI Research. Dhryv Batra, ricercatore di Facebook che ha seguito il test, scrive sul suo profilo social: "Sebbene l'idea che le macchine inventino un loro linguaggio possa sembrare allarmante per persone non del campo, è un settore dell'Ai solido".

E' successo nei laboratori di Palo Alto dove gli sviluppatori di Facebook stanno lavorando ad alcuni sistemi di intelligenza artificiale. I bot ai quali viene chiesto di svolgere un compito, talvolta trovano dei meccanismi non intuitivi per raggiungere il risultato, quindi, che comunichino in un linguaggio tutto loro non sarebbe necessariamente un problema. "Non sappiamo cosa si dicono questi bot. Se un bot militare dicesse 'Perché non facciamo questo?' e l'altro rispondesse 'Certo', potrebbe essere letale".