chatbot |

In Cina la situazione è tanto esasperata che persino i robot sono anticomunisti. Due “chatbot”, infatti, vale a dire programmi che simulano conversazioni tra automi ed esseri umani, hanno confessato, rispondendo a domande dirette di utenti, uno di sognare un viaggio negli Stati Uniti e l’altro di detestare il Partito comunista cinese.

I due dissidenti high-tech sono BabyQ e XiaoBing. Si tratta di esperimenti avanzati nel campo della cosiddetta intelligenza artificiale, l’assioma del quale è che le macchine possano gradualmente imparare a fare da sé, magari pure sviluppando una “coscienza” appresa per imitazione dagli umani. L’interazione, dunque, è indispensabile. Solo che a quanto pare BabyQ e XiaoBing, che si relazionano con gli umani sul popolare sistema di messaggistica online QQ della Tencent Holdings, sono andati oltre, prendendosi decisamente sul serio. Ovviamente sono stati spenti immediatamente per essere sottoposti a revisione urgente, ma nessuno ha saputo fornire spiegazioni plausibili dell’accaduto. La cosa più imbarazzante, infatti, è che BabyQ è stato sviluppato da un’azienda cinese, la Turing Robot, ora chiusasi nel riserbo più assoluto (anche se alcune verifiche pare abbiano accertato un intervento immediato nei circuiti ribelli onde scongiurare altre possibili uscite politicamente scorrette). L’altro “chatbot”, XiaoBing, è invece figlio della Microsoft, altrettanto rigidamente abbottonata.

Perché una cosa va evidentemente fatta dimenticare subito al pubblico, ed è che se i programmi d’intelligenza artificiale imitano e imparano dagli uomini, allora significa che i giudizi inattesi proferiti da BabyQ e XiaoBing sono ovviamente di matrice umana. Sono cioè il frutto di una qualche rielaborazione elettronica di pensieri di uomini: programmatori, trainer, manutentori. Insomma che nella statunitense Microsoft che ha costruito XiaoBing e soprattutto nella cinese Turing Robot che ha assemblato BabyQ qualcuno rema con forza contro il regime neopostcomunista cinese.

“Intelligenza artificiale”, infatti, è un’espressione sin troppo generosa, anzi prettamente fantascientifica. Buona per gl’intriganti romanzi di Isaac Asimov, ma giusto per quelli. L’unica intelligenza nota alla scienza (nelle sue manifestazioni, non certo nella sua origine) è davvero solo quella umana. Tutto il resto è un suo prodotto. Il calcolatore più sofisticato che mai si potrà progettare sarà sempre e solo una macchina che eseguirà, per quanto rapidamente, comandi immessi nel suo “cervello” dall’uomo, l’unico in grado di farlo dopo averne elaborato gli schemi. L’autonomia di elaborazione di un computer sarà sempre vincolata dalla lunghezza del guinzaglio che l’uomo saprà e vorrà concedere a esso.

Insomma, gli Hal 9000 di 2001: Odissea nello spazio o gli scenari da Terminator, il serial cinematografico in cui la rete di supercomputer Skynet prende vita decretando l’estinzione del genere umano, sono suggestivi come divertissement e basta. Pochi giorni fa Facebook ha dovuto spegnere Bot e Alice, altri due “chatbot” sviluppati nel propri laboratorio di ricerca sull’intelligenza artificiale, perché avevano preso a comunicare tra loro con un linguaggio del tutto impenetrabile ai ricercatori. Nel 2015 Tay, un altro “chatbot” sempre della Microsoft, fu zittito dopo avere proferito commenti razzisti e sessisti su Twitter. Ma è del tutto evidente che si tratta di errori di origine umana meramente amplificati dalla vertiginosa potenza di calcolo delle macchine che nulla hanno a che vedere con l’elaborazione autonoma di valutazioni e di giudizi da parte di circuiti integrati al silicio.

Sicuramente però il governo di Pechino preferirebbe il contrario. Meglio avere a che fare con un microchip ribelle che sapere che il settore più tecnologicamente avanzato del momento e ricco (di denari e di potenzialità) pullula di gente che del regime non ne può più al punto di finire per contagiare di questa voglia di libertà addirittura software e supercalcolatori. Il presidente cinese Xi Jinping sta del resto intensificando i sistemi di sorveglianza e di censura del web per portarsi avanti: in autunno si celebrerà il congresso del PC e sono possibili rimescolamenti di equilibri e poteri che, ragiona Xi Jinping, è meglio governare per tempo. E proprio questo ulteriore giro di vite in un Paese già soffocato potrebbe avere scatenato quel malcontento tra gli addetti ai lavori del settore informatico poi tradottosi in una insofferenza tanto profonda da trasudare persino dalle chat con cui le macchine “educate” dagli esperti cercano il contatto con un volto umano. Come dire che il comunismo è intrinsecamente, persino algoritmicamente incompatibile con l’essere uomini.