I robot sognano pecore elettriche?

Do Androids Dream of Electrivc Sheeps? E’ il titolo del magnifico romanzo di Philip K Dick da cui è stato tratto Blade Runner, di cui ci apprestiamo a vedere una nuova edizione. Forse la concomitanza ha influenzato il dibattito sull’A.I. che è attualmente in atto negli Usa.

Motivo: durante un esperimento portato avanti da un team di Facebook, due robot hanno iniziato a parlare tra loro in una modalità inconsueta, e non prevista dai programmatori. L’esperimento è stato subito interrotto. Ed è esploso il caos: grande dibattito tra i pessimisti (coloro che si rifanno ai warning di Elon Musk (papà di Tesla, dei viaggi su Marte, dei tunnel sotto Los Angeles, non l’ultio degi Amish), Hawckins nobel per la scienza, MacAfee, noto guru del digitale per il business, e gli ottimisti. Tra questi ultimi proprio Zuckemberg, ceo di Facebook, che ha rimproverato Musk per il suo pessimismo, e per bloccare una traiettoria tecnologica che aiuta le persone. Replica dell’interessato: “Zuckemberg capisce poco di quello di cui discute”.

Mancava perciò solo che due robot si scambiassero frasi senza senso (ma in inglese), per rinfocolare le polemiche.

A ben vedere, però, sgomberato il campo dall’eccesso di testosterone, le cose sono meno gravi, forse, ma più curiose. Si scopre che l’esperimento di Facebook riguarda bot (sistemi automatici di A.I.) che devono interagire con i clienti e quindi anche, in taluni casi, a discutere con loro. Per questo motivo vengono istruiti alle tecniche di negoziazione.
A un certo punto i due robot hanno iniziato a scambiarsi messaggi di questo tipo:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

A questo punto l’esperimento è stato interrotto non, a mio modo di vedere, per il rischio che i due complottassero contro il genere umano, ma poiché non aveva senso per i programmatori la loro interazione. Qualcuno ha supposto che non fossero state introdotte sufficienti istruzioni sulla sintassi inglese.

Si sa, però. L’immaginario occidentale ha una paura atavica delle macchine (i giapponesi all’opposto ne venerano l’utilizzo), e ad agosto i giornali sono alla ricerca di temi “refrigeranti”.
La notizia più interessante la sottolinea Mashable: durante le conversazioni e le negoziazioni i robot hanno cominciato a mentire, per trarre vantaggio dalla propria posizione. Questo i programmatori non glielo avevano insegnato. E questo, oltre a dirla lunga sul contesto creato dal nostro linguaggio, dovrebbe preoccuparci molto di più di un uso scorretto della sintassi.