En mayo de 2016 se confirmaba la primera muerte a bordo de un Tesla Model S que llevaba el piloto automático activado. El accidente tuvo lugar en una carretera divida cuando un camión con remolque atravesaba una carretera perpendicular, donde ni el conductor ni los sistemas del vehículo detectaron el cruce del vehículo.
La Junta Nacional de Seguridad en el Transporte de los Estados Unidos (NTBS) ha determinado que las limitaciones operativas del Model S desempeñaron un "papel importante" en el accidente. Sin embargo, alude a una "excesiva dependencia en la automatización" y a la incapacidad de reacción del conductor fallecido.
Carreteras para las que el sistema no está preparado y conductores distraídos
El informe completo de la NTBS, que puedes encontrar aquí, habla de errores del conductor, excesiva confianza en la automatización y falta de medidas de precaución como las principales causas del fatal accidente, que acabó con la vida del conductor, Joshua Brown.
Entre las conclusiones, se incluye una muy determinante:
"La fatiga, el diseño de carreteras y los fallos del sistema mecánico no fueron factores en el accidente. No hubo evidencia que indicara que el conductor del camión estaba distraído por el uso del teléfono móvil. Aunque las pruebas revelaron que el conductor de Tesla no estaba atento a la tarea de conducción, los investigadores no pudieron determinar a partir de pruebas disponibles la razón de su falta de atención".
Los hechos ocurrieron de la siguiente forma: el Model S impactaba directamente contra el remolque de un camión mientras este cruzaba de manera perpendicular, pero debido a que "el cielo estaba muy iluminado", los sensores del vehículo no detectaron el obstáculo y por ende no se aplicaron los frenos ni las estrategias de evasión.
Esto hizo que se recalcara que los límites de la conducción autónoma son humanos, y que el Autopilot no exime de prestar atención a la carretera. Se puso sobre la mesa el debate en torno a lanzar al mercado un sistema que todavía está en fase Beta.
Según Tesla, ni el conductor ni el sistema de piloto automático advirtieron el brillante flanco del camión, perpendicular al vehículo. La NTBS ha afirmado que "el sistema de piloto automático de Tesla funcionó como debía, pero no fue diseñado para ser utilizado en el tipo de carretera en la que ocurrió el accidente".
La carretera era una autovía de cuatro carriles, con una intersección, y el accidente tuvo lugar en un día claro y sin lluvias.
Una excesiva dependencia de la automatización
Desde Washington se ha determinado que tanto la incapacidad del conductor de camión de ceder el derecho de paso y la inatención del conductor de automóvil debido a la excesiva dependencia en la automatización del vehículo son la causa probable del accidente, que tuvo lugar en Florida.
Una de las conclusiones más significativas que arroja este informe es que el diseño operativo del sistema autónomo del Tesla no estaba diseñado para identificar el camión que cruzaba el camino de Tesla ni podía reconocer el accidente inminente.
Además, como ya se ha apuntado, afirma que el patrón de uso del sistema del piloto automático indicó una dependencia excesiva en la automatización por parte del conductor y una falta de comprensión de las limitaciones del sistema.
Por lo tanto, a la distracción del conductor y a su excesiva confianza en el Autopilot se unió la incapacidad del sistema para anticipar y reaccionar ante el giro del camión y al hecho de que el hardware debería haber impedido al vehículo circular por ciertas vías, para las que no está preparado.
Tras el accidente, Tesla redujo el tiempo de aviso para emitir una alarma cuando se quitan las manos del volante.
Ante la pérdida, la familia de Brown ha declarado recientemente que no fue el coche lo que mató a este entusiasta de Tesla. "El cambio siempre conlleva riesgos, y la tolerancia cero a las muertes detendría totalmente la innovación y los avances".