Menu

Sobre ética, filosofía y la conducción autónoma

¿La tecnología acabará por volvernos idiotas al volante?

Sobre ética, filosofía y la conducción autónoma

El lunes tuvo lugar la IV Jornada de Tecnología y Seguridad Vial, donde varios expertos expusieron sus puntos de vista sobre el presente y el futuro de la materia. La conclusión de la jornada es que los sistemas ADAS, que ayudan al conductor a evitar situaciones de riesgo, son beneficiosos y que deberían ser obligatorios. Esto último es lo que pusieron en común los representantes de la DGT, Servei Català de Trànsit (Cataluña) y Trafikoa (País Vasco).

Pero permitidme apartarme momentáneamente de la rigidez informativa para hacer énfasis en otra de las conclusiones de la jornada, y son las limitaciones inherentes a la conducción autónoma y el obligatorio debate filosófico y ético que debe haber detrás. Dos de los ponentes arrojaron muchísima luz sobre estas cuestiones: Robert Nowak, economista de la UNECE, y Javier Echeverria, Vicepresidente de Jakiunde, Academia de Ciencias, Artes y Letras de Donostia-San Sebastián.

El primero de ellos, como buen economista, hizo un análisis de las relaciones coste-beneficio que puede haber, y que algunas políticas pueden no solamente no generar esos beneficios, sino incluso ser contraproducentes. Puso como ejemplo la limitación a 20 millas (30 km/h) por hora en Manchester (Reino Unido) en ciertos lugares urbanos.

La medida acabó siendo desechada porque apenas se logró una reducción «marginal» de la velocidad media, solo 30 centímetros por segundo, tuvo un coste de más de un millón de libras y la siniestralidad apenas cambió. Los conductores no respetaban ese límite como norma general, así que lo único que cambió de verdad fue la recaudación por multas. Quien quiera ver su intervención, se la dejo en el punto en el que comienza, y merece la pena:

Por otra parte, reflexionó sobre los costes de que la conducción autónoma acabe siendo masiva, que supone cambiar parques rodantes de decenas de millones de vehículos por país (en el nuestro, más de 30 millones), ante la dificultad práctica de convertir en autónomo el parque circulante. Sería mucho más sencillo enseñar a la gente a conducir mejor. Casi me pongo de pie a aplaudirle y gritar «bravo», saltándome todo protocolo. Me contuve.

Y es que tenía una cantidad brutal de razón. Si el factor humano está detrás de -en torno al- 90 % de los accidentes, la solución no está en que todos los conductores sean robots, sino que los conductores dejemos de conducir mal. Es más fácil decirlo que hacerlo, es un problema multidimensional, e influye la cultura, lo que le pesan a uno las pelotas o los ovarios, apreciación (o no) del riesgo, respeto a la autoridad, capacidades psicofísicas, estado de ánimo, etc. Somos imperfectos, como decía cierto anuncio de BMW.

¿Estamos preparados como sociedad para aceptar los vehículos autónomos? ¿Confiaremos en ellos? ¿Serán asequibles para todos o para algunos? Son preguntas que hay que hacerse

Y eso viene a colación con la ponencia de Javier Echeverría, que introdujo unos conceptos filosóficos muy de andar por casa y que aportaron una enorme claridad al problema. Dijo Einstein una vez: «Temo el día en que la tecnología sobrepase nuestra humanidad. El mundo solo tendrá una generación de idiotas». ¿Y qué es un idiota? Del griego antiguo, ιδιωτης, aquel que no se ocupa de asuntos públicos sino de los privados. Tenéis que ver su ponencia también, os sangrarán las manos de aplaudir:

Para empezar, el señor Echeverría habló de vehículos heterónomos, ya que el término «vehículos autónomos» es incorrecto etimológicamente. «Inteligencia» implica entender y razonar, y eso no lo hace ninguna inteligencia artificial. Cualquier IA toma decisiones predefinidas dentro de lo que se le ha programado previamente. Sin conciencia no hay autonomía. Y como ingeniero informático de formación, no puedo sino darle la razón.

Una IA no puede inventarse una regla o directamente violar una existente

Pero, por simplicidad, y porque ya nos hemos acostumbrado a «vehículos autónomos», seguiré usándolo. Estos vehículos tratarán de respetar toda una serie de reglas predefinidas de tráfico, el problema vendrá cuando esas reglas no se puedan cumplir y haya que tomar otro tipo de decisiones. Supongamos que un accidente es inevitable, ¿con qué o quién se colisiona? ¿Quién se hará responsable? De momento solo Volvo se encargará de las liadas que hagan sus coches en modo autónomo.

Si recordáis la película «Yo, robot», el protagonista -detective Spooner- es un convencido anti máquinas porque un robot le salvó la vida en vez de a una niña, porque él tenía más probabilidades de sobrevivir. La IA habría cumplido con el objetivo con el que se la diseñó: si solo se puede salvar a uno, se salva a quien tiene más posibilidades. Isaac Asimov ya introdujo este problema con sus tres leyes de la robótica, aunque fuese mucho antes de que todos tuviésemos un ordenador en el bolsillo o hubiésemos siquiera nacido.

Los debates y problemas éticos van a ser inevitables. Y creedme cuando digo que ninguna IA ahora mismo tiene conciencia ni raciocinio, todas siguen reglas predefinidas o han «aprendido» algo siguiendo unas directrices, como una IA que ha aprendido a colorear fotos en blanco y negro después de analizar varios miles de ellas… y el resultado sigue sin ser perfecto.

Prueba Opel Grandland X 33

¿Y si el atropello es inevitable? ¿El vehículo ha de ponderar si tiene que causar el menor daño posible para evitar al peatón? ¿Le pasa por encima? ¿Cómo se parametriza eso?

El señor Echeverría propuso que los ingenieros de software que van a programar esas rutinas de conducción sean formados en valores humanísticos, y que no lo hagan todo como si tuviesen síndrome de Asperger y conviertan la conducción en una dictadura tecnocrática donde solo importe la eficiencia y la seguridad. Volvemos al clásico debate de libertad versus seguridad, y ya se hablaba mucho de eso en el Siglo XVIII.

¿A qué estamos dispuestos a renunciar en pro de esa visión de la siniestralidad cero?

Por ejemplo, si los vehículos autónomos se ponen por delante un objetivo rígido de seguridad total, la velocidad media del tráfico bajará. En la práctica hay que asumir que el transporte tiene riesgo y que es inevitable que haya bajas humanas por el motivo que sea. Echeverría supo que esa afirmación es escandalosa en una época en la que nos la cogemos con papel de fumar para todo, y todo tiene que ser buenrollista aunque no sea realista.

Es más, mientras los vehículos «inteligentes» convivan con los «estúpidos», haya o no un idiota al volante de los mismos, los accidentes seguirán siendo inevitables. Podrán reducirse muchísimo, pero la visión cero de la siniestralidad –como la que defiende Volvo– fue definida por el filósofo como «pura demagogia». Eso nos lleva a la reducción al absurdo, si nadie circula ni conduce no habrá accidentes de tráfico.

Volvo Interior

Además, es muy de los mundos de Yupi pensar que en un plazo razonable de tiempo el ciudadano común tendrá recursos para viajar en un coche autónomo que garantice una seguridad absoluta. Eso no se va a conseguir en menos de 20 años, partiendo del siguiente supuesto: si un coche que sale AHORA de fábrica dura 20 años, si se dejan de fabricar mañana, habrá 20 años de transición en los que ese coche «estúpido» puede verse involucrado en un accidente. Eso es de mi cosecha.

No solo debe haber más formación humanista a los programadores e ingenieros, también algo de formación técnica para los «idiotas» que están detrás del volante. Si todos supiésemos más, velásemos más por el bien común, apreciásemos los riesgos y no nos riésemos en su cara, las cosas nos irían mucho mejor.

Hilo esto con una charla informal que tuve ese mismo día con un experto en conducción por el que tengo aprecio personal y profesional. Me dijo que era una certeza estadística que los mejores conductores, los que menos siniestralidad tienen, no cumplen el estereotipo de Ned Flanders, persona temerosa de dios y la DGT que cumple a rajatabla las normas de circulación.

No señores, es gente que tiene una elevada formación técnica y experiencia, y que si le da por ir a 180 km/h por una autopista, provoca un peligro objetivo menor que un Flanders (o señora de) que va acojonado a 100 km/h en el mismo tramo. Y si llevamos el razonamiento al extremo, los pilotos profesionales que se «juegan la vida» en las carreras, son menos propensos a un accidente en un circuito que un español común en la M-30, o un francés en el Boulevard Périphérique de París, o un londinense en la A12.

Toyota Corolla 07

Sistema de seguridad precolisión (PCS)

Esto nos lleva de vuelta a los sistemas ADAS. Sin llegar a ser semiautónomos, ayudan a evitar y corregir errores de un conductor humano, y su eficacia no está ligada solamente a su buen estado, sino a que el «idiota» que está al volante sepa para qué sirven, en qué se basan, y cuáles son sus limitaciones. Y es que la tecnología solo es útil con conocimiento de la misma.

Finalizo ya el ladrillo, que no se cumpla la previsión de Einstein y la tecnología no termine de convertirnos en idiotas. La tecnología debe ser una aliada, no sustituye al raciocinio, y de todos depende que realmente sirva de algo. No hay solución fácil a problemas tan complejos. La visión cero de la siniestralidad es utópica, al menos en décadas, y mientras sea legal que los «idiotas» sigan conduciendo.

Cuando ya nadie conduzca, y las IA sean las únicas que muevan los vehículos, sí, puede que se llegue a cero, hasta que un idiota -sin comillas- cruce por donde no debe mirando al móvil, a un holograma, o pensando en su churri. Mientras tanto, que los esfuerzos del sector público y privado sigan incidiendo en el factor humano, y que la tecnología sea una barrera protectora más, no un remplazo de lo que debería ser el sentido común, el conocimiento, técnica y el respeto a los demás.

Por mucho que se empeñe la tecnología en evitar y corregir nuestros errores, hay especímenes que no merecen reproducirse ni prosperar, ya lo dijo Darwin cuando estableció su ley de la selección natural.

COMPARTE
Sobre mí

Javier Costas

Me gustan los coches desde que tengo uso de razón (o antes). Tras haber conducido más de 400 coches aquí sigo, divulgando y aprendiendo a partes iguales sobre las cuatro ruedas. Vosotros habéis hecho que se convierta en mi pasión.

COMENTARIOS

avatar
2000
 
smilegrinwinkmrgreenneutraltwistedarrowshockunamusedcooleviloopsrazzrollcryeeklolmadsadexclamationquestionideahmmbegwhewchucklesillyenvyshutmouth
Foto
 
 
 
  Suscribir  
Notificar de


NUESTRO EQUIPO

Pablo Mayo

Ingeniero de profesión, la mayor pasión de mi vida son los coches desde que era un chaval. El olor a aceite, gasolina, neumático...hace que todos mis sentidos despierten. Ahora embarcado en esta nueva aventura, espero que llegue a buen puerto con vuestra ayuda. Gracias por estar ahí.

Javier Costas

Me gustan los coches desde que tengo uso de razón (o antes). Tras haber conducido más de 400 coches aquí sigo, divulgando y aprendiendo a partes iguales sobre las cuatro ruedas. Vosotros habéis hecho que se convierta en mi pasión.

Luis Blázquez

Aficionado al mundo del motor desde que fui concebido. Aprendí a leer con revistas de coches y, desde entonces, soy un completo enamorado de la gasolina. Como no se nace sabiendo todo, cada día es importante aprender algo nuevo y así ampliar los conocimientos. Este mundillo tiene mucho que ofrecer, al igual que un servidor a vosotros los lectores.

J.J. López

Portador del contagioso virus de los coches desde los once años. Ingeniero en informática, programador de robots y visión artificial que lo piensa todo en coches. Amante del arte, técnica y tecnología en movimiento, esto es, apasionado incondicional del automóvil.

Ginés de los Reyes

Desde que tengo conciencia me llamó la atención cualquier cosa con ruedas. Aprendí a montar en bicicleta al mismo tiempo que a andar, y creo que la genética tiene algo que ver: mi padre adoraba los coches, les ponía nombres, mi abuelo conducía y participaba en el diseño de camiones, y le privaban los coches...

Ángel Martínez

Soy uno de esos bichos raros a los que les apasiona hablar de coches y se pasaría horas comentando modelos o repasando la historia de la automoción. Pienso que la mayoría de ellos tienen su encanto, desde el deportivo con el que soñamos hasta el utilitario que te encuentras en cualquier esquina.

Adrián Iniesta

Ingeniero electrónico de profesión y amante de los coches por vocación. Dicen que aprendí a leer con las matrículas de los coches y que con 2 años me conocía todas las marcas y modelos. Cualquier cosa que me discutas sobre coches, te la intentaré rebatir.

Miguel A. Ager

Enfermo crónico del motor desde que era pequeño y lector compulsivo de cualquier texto que hable del automóvil. Se rumorea que la primera palabra que aprendió fue "coche".

Javi Martín

Con 20 años no ponía ni una sola tilde y llegaba a cometer faltas como escribir 'hiba'. Algo digno de que me cortaran los dedos. Hoy, me gano un sueldo como redactor. ¡Las vueltas que da la vida! Si me vieran mis profesores del colegio o del instituto la charla sería de órdago. Pero aquí estoy, escribiendo sobre mi pasión donde me dejan. Si hace unos años me dicen que terminaría así, las carcajadas se habrían escuchado hasta en Australia, pero ahora no sabría vivir sin ello.