Este accidente entre un Chevy Bolt autónomo y una moto representa el mayor reto para la inteligencia artificial

El pasado mes en San Francisco, un motorista, Oscar Nilsson, se vio implicado en un accidente con uno de los Chevrolet Bolt EV de Cruise Automation (la filial de GM que realiza las pruebas de conducción autónoma), siendo éste uno de los coches de la prueba piloto en entorno abierto de conducción autónoma que lleva a cabo General Motors. Tras el accidente, el motorista ha demandado a General Motors.

Oscar Nilsson asegura que sufrió heridas mientras circulaba detrás de uno de los Chevy Bolt EV de Cruise Automation, mientras el “conductor” no tenía las manos en el volante (durante las pruebas es obligatorio que haya un conductor para tomar el control si fuese necesario). Este accidente es el claro ejemplo de todo lo que falla al querer que coches de conducción autónoma cohabiten con vehículos operados por humanos. Y arroja luz, de nuevo, sobre los retos que supone soltar un vehículo autónomo en un entorno impredecible.

¿A qué carril vas? ¡Decídete!

Según cuentan en The Mercury News, que recoge la demanda de Nilsson, el Bolt que circulaba por el carril central inició un cambio de carril hacia su izquierda, pero de repente volvió de forma brusca al carril central colisionando con Nilsson en su moto. Las heridas sufridas por Nilsson, asegura, fueron suficientemente importantes para que se viera obligado a estar de baja.

Sin embargo, el informe del accidente que GM entregó a las autoridades competentes, en este el California Department of Motor Vehicles, contradicen la acusación de Nilsson. Para General Motors, el Bolt inició un cambio de carril a la izquierda pero tuvo que abortar la maniobra porque el coche que estaba delante aminoró la marcha.

El Bolt consideró que el hueco que tenía ya no era suficientemente seguro para continuar con la maniobra y al volver a su carril inicial se encontró con Nilsson que circulaba entre dos carriles. Éste, del susto perdió el control de la moto y se cayó. Los daños ocasionados al Bolt son, según ese informe, una larga rayada en el lado derecho del coche. GM recuerda que en el atestado policial del accidente se consideró al motorista responsable del accidente al adelantar un coche por la derecha cuando esa maniobra no se podía hacer de forma segura.

No lo he visto porque la maniobra que hacía era ilegal

Dejando de lado la batalla legal que podría ocurrir acerca de si Nilsson es responsable del accidente o no, la colisión pone de manifiesto la problemática en la que se verán muchos coches autónomos mientras circulen en las mismas calles y carreteras que vehículos conducidos por humanos.

El Chevy Bolt EV volvió al carril inicial porque consideró que no había espacio suficiente para completar su maniobra, sin embargo el coche no detectó ni supo interpretar el movimiento de una moto que se acercaba y ya estaba a su lado. Quiero pensar que si el Bolt la hubiese detectado habría frenado. Así, éste no habría puesto en riesgo su propia integridad al completar su cambio de carril, ni hubiese provocado la caída de Nilsson de la moto al volver a su carril inicial. A no ser que sí lo viera, pero consideró no hacer nada en pro de la seguridad de su pasajero.

No cabe duda que es ahí donde la inteligencia artificial juega un papel importante. Y si bien la inteligencia artificial aprende de sus errores, también es prisionera -al menos en su fase inicial- de quienes la programan. Y este caso es un buen ejemplo donde la programación inicial pudo fallar. Me explico.

El hecho para una moto de circular entre carriles en Estados Unidos es ilegal y solo recientemente en California es legal en determinadas condiciones. Por otra parte, no es inusual para un motorista seguir avanzando por un carril cuando el vehículo que lo precede cambia de carril, es decir en este caso, adelantarlo por la derecha (el Bolt se iba a la izquierda). Además, en ciudad no es ilegal adelantar por la derecha. Es decir, el comportamiento habitual y legal de un motorista en zona urbana en Europa.

Sin embargo, como hasta hace poco en la mayoría de los Estados Unidos era algo ilegal, ¿puede ser que el sistema del Bolt autónomo considerará la maniobra efectuada por Nilsson imposible porque ilegal y por tanto no tomó en cuenta la moto? Sea responsable o no Nilsson, ¿no se supone que un conductor ha de facilitar un adelantamiento a otro que lo haya iniciado, aunque sea de forma ilegal? ¿No debería tomar en cuenta un coche autónomo que el ser humano es impredecible y que puede cometer actos ilegales?

¿Y qué pasa con el conductor de pruebas que estaba en el asiento conductor del Bolt? Una vez más se demuestra que una confianza excesiva en los sistemas autónomos o semiautónomos puede provocar accidentes simplemente porque hace que nuestras habilidades disminuyan. El conductor, se supone, sí era capaz de leer el tráfico y debía estar atento a él. Pero confió en el sistema cuando debería haber tomado el control del coche para evitar el accidente. O quizá sus reflejos no fueron tan rápidos porque no prestaba atención.

General Motors tendrá en el mercado en 2019 un coche autónomo

Este incidente también hace dudar de la seguridad del sistema de General Motors. Recordemos que GM prevé lanzar a nivel comercial en 2019 -¡el año que viene!- un servicio de coche compartido (car sharing) autónomo y que, también para 2019, presentaría un coche autónomo de nivel 5, es decir, sin volante ni pedales.

General Motors es uno de los más fervientes defensores de la conducción autónoma. De hecho, a finales de 2016, GM fue la primera en subirse al carro tras aprobarse la ley SAVE, con la que se regula la normativa para la circulación de coches autónomos. Y recientemente ha completado la fabricación de más de 100 Chevrolet Bolt EV para una prueba piloto en entorno real, es decir, en carretera abierta. Uno de los cuales sería el implicado en este accidente.