DISINFORMAZIONE La storia e il panico inesistente per i due “robot” di Facebook che si sono inventati una lingua sconosciuta

Dal 23 gennaio 2018 il mio blog non ha più banner pubblicitari e viene sostenuto dalle vostre donazioni che potete inviare qui: https://www.paypal.me/DavidPuenteit

Riporto uno dei tanti articoli della giornata sull’argomento:

Paura nella Silicon Valley dove due robot hanno iniziato a dialogare in una lingua a noi non nota e incomprensibile. Sgomento e panico tra i ricercatori che, dopo lo stupore iniziale, hanno immediatamente staccato la corrente. Si è risolto così uno degli esperimenti che Facebook sta compiendo sull’intelligenza artificiale, anche se la soluzione al caso è in realtà banale. Si è infatti trattato di un errore di programmazione, che ha permesso che le macchine modificassero la lingua inglese per rendere più semplice la comunicazione fra di loro.

Qualche giorno prima, su La Stampa:

Facebook blocca un software: sfugge al nostro controllo, troppi rischi

I titoli però sono meravigliosi:

Quanti hanno iniziato a pensare a Terminator?

Terminator

L’esperimento di Facebook consisteva nel far dialogare tra di loro due AI, ne avevano parlato il 14 giugno sul blog del Social Network nell’articolo dal titolo “Deal or no deal? Training AI bots to negotiate“. Il 20 giugno, poco meno di una settimana dopo, il The Atlantic riporta un curioso errore riscontrato nel dialogo tra le due AI:

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

C’era da spaventarsi? Panico? Terrore e tragedia? Proprio ieri su Gizmodo avevano spiegato che non c’era motivo di preoccuparsi, neppure Facebook era così “preoccupata“:

When Facebook directed two of these semi-intelligent bots to talk to each other, FastCo reported, the programmers realized they had made an error by not incentivizing the chatbots to communicate according to human-comprehensible rules of the English language. In their attempts to learn from each other, the bots thus began chatting back and forth in a derived shorthand—but while it might look creepy, that’s all it was.

“Agents will drift off understandable language and invent codewords for themselves,” FAIR visiting researcher Dhruv Batra said. “Like if I say ‘the’ five times, you interpret that to mean I want five copies of this item. This isn’t so different from the way communities of humans create shorthands.”

Facebook did indeed shut down the conversation, but not because they were panicked they had untethered a potential Skynet. FAIR researcher Mike Lewis told FastCo they had simply decided “our interest was having bots who could talk to people,” not efficiently to each other, and thus opted to require them to write to each other legibly.

Insomma, c’è stato un errore di programmazione e il tutto è stato interrotto perché il risultato ottenuto, pure errato, non era di loro interesse.

Nessuna “minaccia” per l’umanità, ma il clickbait scorre potente.

David Puente

Nato a Merida (Venezuela), vive in Italia dall'età di 7 anni. Laureato presso l'Università degli Studi di Udine, opera nel campo della comunicazione e della programmazione web.
REGOLAMENTO DELLA DISCUSSIONE
Non sono consentiti:
- messaggi off-topic (tradotto: non inerenti al tema trattato)
- messaggi anonimi (registratevi almeno a Disqus)
- messaggi pubblicitari o riportanti link truffaldini (verranno sempre moderati i commenti contenenti link esterni)
- messaggi offensivi o contenenti turpiloquio
- messaggi razzisti o sessisti
- messaggi il cui contenuto costituisce una violazione delle leggi italiane (istigazione a delinquere o alla violenza, diffamazione, ecc.)
Se vuoi discutere in maniera costruttiva ed educata sei il benvenuto, mentre maleducati, fanatici ed esaltati sono cortesemente invitati a commentare altrove.
Comunque il proprietario di questo blog potrà in qualsiasi momento, a suo insindacabile giudizio, cancellare i messaggi che violeranno queste semplici regole. I maleducati (soprattutto se anonimi) verranno bloccati. In ogni caso il proprietario del blog non potrà essere ritenuto responsabile per eventuali messaggi lesivi di diritti di terzi.

Regolamento in vigore dal 5 settembre 2016 - Aggiornato 26 agosto 2017.