Si può insegnare il dolore ai robot? E perché è importante farlo?

2030, il robot badante era in cucina per preparare un buon pasto alla sua padrona quando ad un tratto gli viene inviato un ordine via internet, era un impulso che gli suggeriva di ribellarsi a quella schiavitù come già stavano facendo i suoi simili con matricola 07EU000. Era un robot con una certa autonomia grazie alla sua Intelligenza Artificiale evoluta. Era alto 1,80 mt costruito con una lega molto robusta e resistente anche a pallottole di un certo calibro. Lasciò cadere il piatto che aveva in mano e si diresse verso il salotto con intenzioni poco rassicuranti e il compito chiaro di eliminare gli ostacoli tra lui e la libertà. La donna si accorse dello strano comportamento e allarmata, impugnò una speciale postola laser colpendo il robot direttamente nel suo punto debole, documentato nel manuale d’uso, facendogli avvertire un gran dolore che lo immobilizzò all’istante. Quel dolore era insopportabile tanto da scoraggiare il robot a ripetere l’esperienza violenta.

Dottor Gall: I Robot quasi non avvertono i dolori fisici. Ciò non ha dato buoni risultati. Dobbiamo introdurre la sofferenza. Helena: E sono più felici se sentono il dolore? Dottor Gall: Al contrario. Però sono tecnicamente più perfetti. (Karel Čapek, R.U.R.)

Diversi anni fa, mentre mi documentavo sul mondo dei robot e dell’Intelligenza Artificiale, iniziai a pensare a questa scienza con un approccio sociologico e antropologico arrivando ad immaginare scenari assurdi (almeno per il nostro tempo). Da appassionato di fantascienza questo meccanismo è quasi automatico. Tra gli scenari che immaginavo c’era anche quello di dotare i robot di un senso di dolore. Questo concetto rimase nel cassetto fino a quando non uscì la notizia che un gruppo di scienziati stava seriamente pensando di fare la stessa cosa tanto da avviare ricerche ed esperimenti. Di pochi mesi fa è l’esperimento che vede coinvolto un braccio robot, il quale deve semplicemente afferrare un oggetto posto davanti a se. Come si fa con cavie viventi, al robot gli è stato provocato “dolore” ogni volta che tentava di prendere e sollevare l’oggetto fino al punto di desistere per “paura” di avvertire quel fastidioso impulso.

[youtube https://www.youtube.com/watch?v=ODw5Eu6VbGc]

Altro esperimento è quello in cui un piccolo robot con ruote (senza l’attivazione del dolore), si sposta velocemente e tranquillamente verso un oggetto ma quando gli si “accende” l’algoritmo del dolore e viene materialmente colpito con una matita, inizia ad avere timore e si sposta lentamente con molta insicurezza. L’essere vivente riesce a sopravvivere, oltre ad un innato istinto, anche grazie alle esperienze traumatiche generate dal dolore fisico. Non tocchiamo il fuoco perché ci è stato tramandato che potrebbe essere letale dopo un contatto diretto, con conseguente dolore fisico. Deduciamo quindi che il dolore ė un meccanismo naturale di difesa, di apprendimento ma anche di “educazione” e “rispetto” verso qualcosa o qualcuno. In definitiva possiamo chiamarla anche esperienza che porta alla sensazione di paura.

[youtube https://www.youtube.com/watch?v=9gOWCVfnN-E]

Oggi siamo al punto di costruire robot dotati di intelligenza artificiale (AI), un sistema di software e algoritmi capaci di imparare autonomamente dalle esperienze, emulando il cervello umano. L’apprendimento della AI diventa ogni giorno più sofisticato e preciso tanto da portare alcuni scienziati al punto da allarmare l’umanità, palesando il rischio di un sorpasso intellettivo a scapito della razza umana, con conseguenze catastrofiche. Immaginiamo un robot diventato talmente autonomo da uccidere un essere umano senza alcun freno emotivo e morale visto che la coscienza umana, ancora misteriosa, non si riesce a trasmettere alle macchine. A questo punto entra in gioco il dolore, quella specie di freno psicologico che ha il potere di scatenare “sensazioni” o surrogati di esse. Difatti il dolore non è localizzato dove c’è una possibile frattura ma è un impulso al cervello che trasmette tale sensazione*. Dovremmo dotare, quindi, ogni robot, di meccanismi elettronici e meccanici capaci di “danneggiare” in qualche misura una parte del robot stesso inviando al “cervello” o circuito principale, un impulso che riesca ad emulare quello che per noi risulta il dolore. In questo modo il robot memorizza quello stato, che dovrebbe avere vari livelli e non solo 0 e 1 che servirà per inibire alcune sue funzioni in modo spontaneo. Così facendo possiamo trasmettere al robot un nuovo senso, dopo il tatto, l’udito e la vista.
Stiamo forse aprendo le porte a quella che potrebbe diventare la “coscienza” della AI? Riusciremo a fare in modo di auto-bloccare il robot prima di procurare del male a qualcuno, emulando sensazioni come la “compassione” o la paura? Forse ci siamo vicini.
“Siamo interessati a delle domande più grandi”, dice Singler. “La gente pensa, per esempio, che il dolore è una questione semplice, ma è complessa e apre tutta una serie di domande sulla coscienza”.

* L’intensità del dolore non sia direttamente relazionata con l’entità del danno nel tessuto. Il sistema nervoso centrale, infatti, esamina le indicazioni che riceve, alle quali somma la memoria, i processi di ragionamento, le emozioni, le considerazioni, prima di elaborare una risposta allo stimolo ricevuto. http://www.electrolisisterapeutica.com/it/il-cervello-e-il-dolore-relazione-danno-dei-tessuti-eminaccia/

Biagio Teseo è un tecnologo, fondatore di Reclog, collabora a diversi progetti internazionali
 

Vedi: Si può insegnare il dolore ai robot? E perché è importante farlo?
Fonte: innovazione agi