El lunes tuvo lugar la IV Jornada de Tecnología y Seguridad Vial, donde varios expertos expusieron sus puntos de vista sobre el presente y el futuro de la materia. La conclusión de la jornada es que los sistemas ADAS, que ayudan al conductor a evitar situaciones de riesgo, son beneficiosos y que deberían ser obligatorios. Esto último es lo que pusieron en común los representantes de la DGT, Servei Català de Trànsit (Cataluña) y Trafikoa (País Vasco).

Pero permitidme apartarme momentáneamente de la rigidez informativa para hacer énfasis en otra de las conclusiones de la jornada, y son las limitaciones inherentes a la conducción autónoma y el obligatorio debate filosófico y ético que debe haber detrás. Dos de los ponentes arrojaron muchísima luz sobre estas cuestiones: Robert Nowak, economista de la UNECE, y Javier Echeverria, Vicepresidente de Jakiunde, Academia de Ciencias, Artes y Letras de Donostia-San Sebastián.

El primero de ellos, como buen economista, hizo un análisis de las relaciones coste-beneficio que puede haber, y que algunas políticas pueden no solamente no generar esos beneficios, sino incluso ser contraproducentes. Puso como ejemplo la limitación a 20 millas (30 km/h) por hora en Manchester (Reino Unido) en ciertos lugares urbanos.

La medida acabó siendo desechada porque apenas se logró una reducción “marginal” de la velocidad media, solo 30 centímetros por segundo, tuvo un coste de más de un millón de libras y la siniestralidad apenas cambió. Los conductores no respetaban ese límite como norma general, así que lo único que cambió de verdad fue la recaudación por multas. Quien quiera ver su intervención, se la dejo en el punto en el que comienza, y merece la pena:

Por otra parte, reflexionó sobre los costes de que la conducción autónoma acabe siendo masiva, que supone cambiar parques rodantes de decenas de millones de vehículos por país (en el nuestro, más de 30 millones), ante la dificultad práctica de convertir en autónomo el parque circulante. Sería mucho más sencillo enseñar a la gente a conducir mejor. Casi me pongo de pie a aplaudirle y gritar “bravo”, saltándome todo protocolo. Me contuve.

Y es que tenía una cantidad brutal de razón. Si el factor humano está detrás de -en torno al- 90 % de los accidentes, la solución no está en que todos los conductores sean robots, sino que los conductores dejemos de conducir mal. Es más fácil decirlo que hacerlo, es un problema multidimensional, e influye la cultura, lo que le pesan a uno las pelotas o los ovarios, apreciación (o no) del riesgo, respeto a la autoridad, capacidades psicofísicas, estado de ánimo, etc. Somos imperfectos, como decía cierto anuncio de BMW.

¿Estamos preparados como sociedad para aceptar los vehículos autónomos? ¿Confiaremos en ellos? ¿Serán asequibles para todos o para algunos? Son preguntas que hay que hacerse

Y eso viene a colación con la ponencia de Javier Echeverría, que introdujo unos conceptos filosóficos muy de andar por casa y que aportaron una enorme claridad al problema. Dijo Einstein una vez: “Temo el día en que la tecnología sobrepase nuestra humanidad. El mundo solo tendrá una generación de idiotas”. ¿Y qué es un idiota? Del griego antiguo, ιδιωτης, aquel que no se ocupa de asuntos públicos sino de los privados. Tenéis que ver su ponencia también, os sangrarán las manos de aplaudir:

Para empezar, el señor Echeverría habló de vehículos heterónomos, ya que el término “vehículos autónomos” es incorrecto etimológicamente. “Inteligencia” implica entender y razonar, y eso no lo hace ninguna inteligencia artificial. Cualquier IA toma decisiones predefinidas dentro de lo que se le ha programado previamente. Sin conciencia no hay autonomía. Y como ingeniero informático de formación, no puedo sino darle la razón.

Una IA no puede inventarse una regla o directamente violar una existente

Pero, por simplicidad, y porque ya nos hemos acostumbrado a “vehículos autónomos”, seguiré usándolo. Estos vehículos tratarán de respetar toda una serie de reglas predefinidas de tráfico, el problema vendrá cuando esas reglas no se puedan cumplir y haya que tomar otro tipo de decisiones. Supongamos que un accidente es inevitable, ¿con qué o quién se colisiona? ¿Quién se hará responsable? De momento solo Volvo se encargará de las liadas que hagan sus coches en modo autónomo.

Si recordáis la película “Yo, robot”, el protagonista -detective Spooner- es un convencido anti máquinas porque un robot le salvó la vida en vez de a una niña, porque él tenía más probabilidades de sobrevivir. La IA habría cumplido con el objetivo con el que se la diseñó: si solo se puede salvar a uno, se salva a quien tiene más posibilidades. Isaac Asimov ya introdujo este problema con sus tres leyes de la robótica, aunque fuese mucho antes de que todos tuviésemos un ordenador en el bolsillo o hubiésemos siquiera nacido.

Los debates y problemas éticos van a ser inevitables. Y creedme cuando digo que ninguna IA ahora mismo tiene conciencia ni raciocinio, todas siguen reglas predefinidas o han “aprendido” algo siguiendo unas directrices, como una IA que ha aprendido a colorear fotos en blanco y negro después de analizar varios miles de ellas… y el resultado sigue sin ser perfecto.

¿Y si el atropello es inevitable? ¿El vehículo ha de ponderar si tiene que causar el menor daño posible para evitar al peatón? ¿Le pasa por encima? ¿Cómo se parametriza eso?

El señor Echeverría propuso que los ingenieros de software que van a programar esas rutinas de conducción sean formados en valores humanísticos, y que no lo hagan todo como si tuviesen síndrome de Asperger y conviertan la conducción en una dictadura tecnocrática donde solo importe la eficiencia y la seguridad. Volvemos al clásico debate de libertad versus seguridad, y ya se hablaba mucho de eso en el Siglo XVIII.

¿A qué estamos dispuestos a renunciar en pro de esa visión de la siniestralidad cero?

Por ejemplo, si los vehículos autónomos se ponen por delante un objetivo rígido de seguridad total, la velocidad media del tráfico bajará. En la práctica hay que asumir que el transporte tiene riesgo y que es inevitable que haya bajas humanas por el motivo que sea. Echeverría supo que esa afirmación es escandalosa en una época en la que nos la cogemos con papel de fumar para todo, y todo tiene que ser buenrollista aunque no sea realista.

Es más, mientras los vehículos “inteligentes” convivan con los “estúpidos”, haya o no un idiota al volante de los mismos, los accidentes seguirán siendo inevitables. Podrán reducirse muchísimo, pero la visión cero de la siniestralidad –como la que defiende Volvo– fue definida por el filósofo como “pura demagogia”. Eso nos lleva a la reducción al absurdo, si nadie circula ni conduce no habrá accidentes de tráfico.

Además, es muy de los mundos de Yupi pensar que en un plazo razonable de tiempo el ciudadano común tendrá recursos para viajar en un coche autónomo que garantice una seguridad absoluta. Eso no se va a conseguir en menos de 20 años, partiendo del siguiente supuesto: si un coche que sale AHORA de fábrica dura 20 años, si se dejan de fabricar mañana, habrá 20 años de transición en los que ese coche “estúpido” puede verse involucrado en un accidente. Eso es de mi cosecha.

No solo debe haber más formación humanista a los programadores e ingenieros, también algo de formación técnica para los “idiotas” que están detrás del volante. Si todos supiésemos más, velásemos más por el bien común, apreciásemos los riesgos y no nos riésemos en su cara, las cosas nos irían mucho mejor.

Hilo esto con una charla informal que tuve ese mismo día con un experto en conducción por el que tengo aprecio personal y profesional. Me dijo que era una certeza estadística que los mejores conductores, los que menos siniestralidad tienen, no cumplen el estereotipo de Ned Flanders, persona temerosa de dios y la DGT que cumple a rajatabla las normas de circulación.

No señores, es gente que tiene una elevada formación técnica y experiencia, y que si le da por ir a 180 km/h por una autopista, provoca un peligro objetivo menor que un Flanders (o señora de) que va acojonado a 100 km/h en el mismo tramo. Y si llevamos el razonamiento al extremo, los pilotos profesionales que se “juegan la vida” en las carreras, son menos propensos a un accidente en un circuito que un español común en la M-30, o un francés en el Boulevard Périphérique de París, o un londinense en la A12.

Sistema de seguridad precolisión (PCS)

Esto nos lleva de vuelta a los sistemas ADAS. Sin llegar a ser semiautónomos, ayudan a evitar y corregir errores de un conductor humano, y su eficacia no está ligada solamente a su buen estado, sino a que el “idiota” que está al volante sepa para qué sirven, en qué se basan, y cuáles son sus limitaciones. Y es que la tecnología solo es útil con conocimiento de la misma.

Finalizo ya el ladrillo, que no se cumpla la previsión de Einstein y la tecnología no termine de convertirnos en idiotas. La tecnología debe ser una aliada, no sustituye al raciocinio, y de todos depende que realmente sirva de algo. No hay solución fácil a problemas tan complejos. La visión cero de la siniestralidad es utópica, al menos en décadas, y mientras sea legal que los “idiotas” sigan conduciendo.

Cuando ya nadie conduzca, y las IA sean las únicas que muevan los vehículos, sí, puede que se llegue a cero, hasta que un idiota -sin comillas- cruce por donde no debe mirando al móvil, a un holograma, o pensando en su churri. Mientras tanto, que los esfuerzos del sector público y privado sigan incidiendo en el factor humano, y que la tecnología sea una barrera protectora más, no un remplazo de lo que debería ser el sentido común, el conocimiento, técnica y el respeto a los demás.

Por mucho que se empeñe la tecnología en evitar y corregir nuestros errores, hay especímenes que no merecen reproducirse ni prosperar, ya lo dijo Darwin cuando estableció su ley de la selección natural.