Dopo aver letto l'articolo, mi sento di quotare le parole del buon ch4
Il problema così posto mi pare una disquisizione filosofica degna delle famose tre leggi della robotica di Asimov.
Citandole, ci accorgiamo di una sostanziale differenza.
- Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno.
- Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge.
- Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o con la Seconda Legge.
Ai robot dei romanzi in questione si chiedeva di essere "attivi" nel preservare l'incolumità degli esseri umani: il robot non solo non doveva procurare danno con le proprie azioni, ma doveva anche identificare la possibilità che si verificasse un evento negativo e
fare tutto quanto in suo potere, compreso "sacrificarsi", per evitare un qualsiasi danno agli umani.
Questo perché il robot aveva sensori, velocità di calcolo e "comprensione" della realtà e dell'ambiente circostante grazie al cervello positronico. E anche nei romanzi di Asimov, proprio a causa della "comprensione" ci si poneva lo stesso quesito, sebbene in termini diversi: es. se ordino a un robot di uccidere un talebano che ha in mano il detonatore di un'autobomba davanti a un centro commerciale pieno di gente, questo cosa dovrebbe fare?
Ecco, con le auto a guida autonoma la questione è già in termini diversi. Le auto non "prendono decisioni", non hanno "comprensione" della realtà, ma si limitano a impostare velocità e direzione in base ai dati raccolti dai vari sensori, con l'unico compito di evitare collisioni e arrivare a destinazione. Il loro compito è questo, nient'altro.
Il problema, come credo di aver già già accennato in un'altra discussione, non è l'auto a guida autonoma, ma l'infrastruttura nella quale si deve muovere. Esistono già da anni realtà nelle quali la guida autonoma è utilizzata senza nessun problema: fabbriche, aeroporti... al veicolo viene delegato esclusivamente il compito di utilizzare velocità e direzione adeguati al compito richiesto, tutto il resto è devoluto all'infrastruttura. Se un operaio si mette a passeggiare nella corsia riservata ai robot in catena di montaggio -e quindi allo scopo adeguatamente recintata nonché interdetta al passaggio delle persone- e un robot lo schiaccia, nessuno si pone il "problema morale" di che cosa avrebbe dovuto fare la macchina: quell'uomo non doveva essere lì, punto e basta. Idem se l'automobilista frettoloso forza il passaggio a livello e viene investito dal treno, o se un addetto ai bagagli decide di farsi un giro sulla pista dell'aeroporto mentre è in atto un atterraggio via ILS: non posso chiedere al treno o all'aereo di rimediare anche ai miei errori, posso solo fare in modo che questi ultimi siano ridotti al minimo possibile consentito dalle tecnologie e conoscenze attuali.
Nel caso descritto dall'articolo addirittura non solo pretendono che l'auto sopperisca in proprio alle carenze infrastrutturali di un ambiente dove si trovano a interagire con esseri umani imprevedibili, quindi con variabili infinite in gioco (roba che nemmeno i supercomputer utilizzati per lo studio del meteo...) ma addirittura trattano l'auto come se fosse un essere senziente, chiedendole di prendere decisioni etico/morali che non le competono.
La
"moral machine", imho, è un'enorme coperta di Linus sotto la quale cerchiamo di nascondere i nostri vizi e le nostre inadeguatezze. Pur di non impegnarci a imparare a far bene e a rispettare le regole, o constatato che qualsiasi sforzo in tal senso alla lunga risultava comunque vano, abbiamo cominciato a delegare all'auto le nostre responsabilità. Abbiamo sistemi che controllano se scavalchiamo le linee di delimitazione della carreggiata, che leggono i cartelli, che controllano se non ci stiamo per addormentare alla guida, che tengono la distanza di sicurezza e regolano la velocità, che frenano da soli, che accendono e/o regolano i fari, che parcheggiano l'auto da sola, che azionano i tergicristalli se piove, e mille altri che adesso non mi vengono in mente... è evidente che ci stiamo muovendo da tempo nella direzione dell'auto autonoma, ma lo stiamo facendo nel modo sbagliato: continuiamo a chiederle di mettere una pezza alle nostre mancanze aggiungendo apparati e sofisticazioni, invece di cercare la sinergia più efficace di entrambi -uomo e macchina- per giungere al risultato migliore in meno tempo possibile.
Le questioni morali se le deve porre l'uomo. La macchina è solo una macchina.
La prova? Rispondete alla domanda: l'oggetto qui sotto è "buono" o "cattivo"?
