¿Quién será asesinado por un coche autónomo? Máquina, salva a tantas personas como puedas, pero sobre todo, ¡sálvame a mí!

Si se presenta una situación en la que el sistema autónomo de un automóvil debe elegir rápidamente a quién sacrificar en caso de un accidente inminente, ¿cómo debe reaccionar? ¿Sacrificar a los pasajeros para salvar a los peatones? Si es necesario, ¿matar a un peatón de sobra, por ejemplo, una familia de cuatro personas que viaja en un automóvil? ¿O tal vez siempre debería protegerse a sí mismo primero?

Si bien más de sesenta empresas ya han recibido permisos de pruebas personales solo en California, es difícil decir que la industria está lista para enfrentar dilemas éticos. Por el momento, está luchando con problemas más básicos: la operación y la eficiencia de navegación de los sistemas y simplemente evitar colisiones y eventos imprevistos. En situaciones como el reciente asesinato de un peatón en Arizona, o choques posteriores (1), hasta ahora se ha tratado simplemente de fallas del sistema y no de algún tipo de "elección ética" del automóvil.

Salvar a los ricos y jóvenes

Los problemas de tomar este tipo de decisiones no son problemas abstractos. Cualquier conductor experimentado puede certificar esto. El año pasado, investigadores del MIT Media Lab analizaron más de cuarenta millones de respuestas de encuestados de todo el mundo, que recopilaron en el curso de una investigación iniciada en 2014. El sistema de encuestas que denominan "Máquina ética" mostró que en varios lugares del mundo el mundo, preguntas similares reciben respuestas diferentes.

Las conclusiones más generales son predecibles. En situaciones extremas las personas prefieren salvar a las personas que cuidar a los animales, con el objetivo de salvar tantas vidas como sea posible, y tienden a ser más jóvenes que los ancianos (2). También hay algunas preferencias, aunque menos obvias, cuando se trata de rescatar a mujeres sobre hombres, personas de mayor estatus sobre personas más pobres y peatones sobre pasajeros de automóviles..

2. ¿A quién debe salvar el coche?

Dado que casi medio millón de participantes completaron cuestionarios demográficos, fue posible correlacionar sus preferencias con la edad, el género y las creencias religiosas. Los investigadores concluyeron que estas diferencias no "afectaron significativamente" las decisiones de las personas, pero notaron algunas influencias culturales. Los franceses, por ejemplo, tendían a sopesar las decisiones sobre la base del número estimado de muertes, mientras que en Japón el énfasis era mínimo. Sin embargo, en el País del Sol Naciente se valora mucho más la vida de los ancianos que en Occidente.

“Antes de permitir que nuestros autos tomen sus propias decisiones éticas, necesitamos tener un debate global sobre esto. Cuando las empresas que trabajan en sistemas autónomos conozcan nuestras preferencias, desarrollarán algoritmos éticos en máquinas basadas en ellas, y los políticos podrán comenzar a introducir las disposiciones legales adecuadas”, escribieron los científicos en octubre de 2018 en Nature.

Uno de los investigadores involucrados en el experimento de Moral Machine, Jean-Francois Bonnefont, encontró alarmante la preferencia por rescatar a personas de mayor estatus (como ejecutivos sobre personas sin hogar). En su opinión, esto está muy relacionado con el nivel de desigualdad económica en un país dado. Donde las desigualdades eran mayores, se dio preferencia al sacrificio de los pobres y los sin techo.

Uno de los estudios anteriores mostró, en particular, que, según los encuestados, un automóvil autónomo debería proteger a la mayor cantidad de personas posible, incluso si eso significa perder pasajeros. Sin embargo, al mismo tiempo, los encuestados afirmaron que no comprarían un automóvil programado de esta manera. Los investigadores explicaron que Si bien a las personas les resulta más ético salvar a más personas, también son egoístas, lo que podría ser una señal para los fabricantes de que los clientes se mostrarán reacios a comprar automóviles equipados con sistemas altruistas.. Hace algún tiempo, representantes de la empresa Mercedes-Benz dijeron que si su sistema salvara a una sola persona, elegirían al conductor, no al peatón. Una ola de protestas públicas obligó a la empresa a retirar su declaración. Pero la investigación muestra claramente que había mucha hipocresía en esta santa indignación.

Esto ya está sucediendo en algunos países. primeros intentos de regulación legal en campo Alemania ha aprobado una ley que obliga a los vehículos sin conductor a evitar lesiones o muertes a toda costa. La ley también establece que los algoritmos nunca pueden tomar decisiones basadas en características como la edad, el género, la salud o los peatones.

Audi se hace cargo

El diseñador no puede predecir todas las consecuencias del funcionamiento del automóvil. La realidad siempre puede proporcionar una combinación de variables que nunca antes se han probado. Esto socava nuestra creencia en la posibilidad de "programar éticamente" una máquina. Nos parece que en situaciones en las que se produce un error y se produce una tragedia "por culpa del coche", la responsabilidad debe recaer en el fabricante y desarrollador del sistema.

Quizás este razonamiento sea correcto, pero quizás no porque esté equivocado. Más bien, porque se permitía un movimiento que no estaba 2019% libre de la posibilidad de realizarlo. Esa parece ser la razón, y la compañía no elude la responsabilidad compartida, que recientemente anunció que asumiría la responsabilidad de los accidentes que involucran a un A8 de 3 años mientras usa un sistema automático Traffic Jam Pilot (XNUMX) en él.

3. Interfaz Audi Traffic Jam Pilot

Por otro lado, hay millones de personas que conducen automóviles y también cometen errores. Entonces, ¿por qué las máquinas, que estadísticamente cometen muchos menos errores que los humanos, como lo demuestran numerosos errores, deberían ser discriminadas en este sentido?

Si alguien piensa que los dilemas de la ética y la responsabilidad en el mundo de los vehículos autónomos son sencillos, que siga pensando...