Giuseppe Longo - Roboetica: il problema di un'etica dei robot

Un primo approccio alla "roboetica" in cui Giuseppe Longo cerca di tracciare i confini di questa nuova branca dell'etica. L'articolo L'etica dei robot, è comparso su doppiozero il 09/11/2012.

Cos'è la roboetica?

Le coordinate per definire la roboetica individuate da Longo sono 4 e riguardano le relazioni tra umani - ambiente e robot.

L'origine delle problematiche connesse all'etica robotica sono da rintracciare nelle "tre leggi della robotica" di Isaac Asimov. inventate negli anni '40 del novecento, le tre leggi permisero ad Asimov di costruire numerosi intrecci narrativi basati proprio sull'ambiguità delle leggi, messe in crisi dal presentarsi di situazioni particolari in cui una decisione fondata su algoritmi è impossibile. 

Carattere situazionale della decisione etica

Difficilmente si possono definire in modo univoco delle regole etiche universali, anche perché, tanto più sono universali e tanto più sono inefficaci come regole per la direzione dell'agire. 

Si pensi alla prima legge di Asimov basato su concetti come quelli di "danno", di "uomo" e di "robot": "Un robot non può recar danno a un essere umano e non può permettere che, a causa di un suo mancato intervento, un essere umano riceva danno."

Cos'è "dannoso"? E se il danno fosse qualcosa di soggettivo? Esiste una scala oggettiva per misurare la dannosità di qualcosa? Esistono "danni" morali o psichici? Sono più o meno gravi di quelli fisici?

E ancora: cos'è uomo? E se la razionalità fosse la caratteristica distintiva propria dell'uomo? E se i robot sviluppassero forme di razionalità superiori a quelle dell'uomo? Allora i robot sarebbero molto gli "uomini" degli uomini? Come cambierebbe questo il senso delle tre leggi?