Vehículos autotripulados en CABA: ¿qué debemos considerar?

El Gobierno de CABA autorizó pruebas piloto de vehículos autotripulados o autónomos SAE Nivel 4 y también de drones terrestres autónomos en la vía pública. La iniciativa merece ser acompañada porque puede transformar el transporte, pero no incorporarse masivamente sin evidencia sobre su funcionamiento en las condiciones reales de nuestra ciudad.

Probar un vehículo autónomo no consiste solo en comprobar si interpreta un semáforo, evita a un peatón o convive con colectivos, motos, bicicletas, carros con tracción a sangre y ocupaciones irregulares de la calzada, más aún en una circulación frecuentemente anómica como la que ocurre en CABA. Significa también verificar si nuestras instituciones están preparadas para gobernar tecnologías cuya capacidad de actuar autónomamente aumenta, mientras la responsabilidad por sus consecuencias se distribuye entre fabricantes, desarrolladores, operadores, aseguradoras, proveedores tecnológicos y autoridades.

En febrero sostuve en mi artículo “Vehículos autotripulados: responsabilidad humana indelegable” que la autonomía tecnológica no podía producir zonas de irresponsabilidad humana. La iniciativa porteña permite ahora avanzar un paso. ¿Cómo convertir ese principio ético en una política pública concreta?

Desde la bioética, hay una diferencia moral entre experimentar en un entorno cerrado y hacerlo en el espacio público. Un peatón, un ciclista o quien conduce otro vehículo no decidió participar del ensayo tecnológico que ocurre a su alrededor. Esto significa que para quienes queden involuntariamente expuestos a un riesgo experimental, aumenta el deber de protección de quien autoriza la experiencia.

De allí surgen obligaciones concretas como minimizar riesgos previsibles, proteger a los usuarios vulnerables, evitar que ciertos grupos soporten desproporcionadamente las cargas de una innovación cuyos beneficios serán colectivos y determinar, antes del daño, quién deberá responder.

Los datos son alentadores, aunque no generalizables. Un estudio de Waymo y Swiss Re informó reducciones del 88% en reclamos por daños materiales y del 92% por lesiones corporales, mientras que el Insurance Institute for Highway Safety estimó un 68% menos de colisiones policialmente reportables y un 81% menos con lesiones. Sin embargo, un estudio publicado en Nature Communications encontró que los sistemas analizados, aunque más seguros en numerosos escenarios, presentan mayores riesgos en determinadas condiciones, como amaneceres, atardeceres y maniobras de giro. La seguridad depende, por lo tanto, del sistema, del dominio operacional y de las condiciones concretas de circulación; no pertenece al vehículo en abstracto, sino a su funcionamiento dentro de un entorno determinado.

CABA necesita una referencia propia. Antes de la prueba debería conocerse la siniestralidad humana en los corredores, horarios, velocidades y condiciones de operación autónoma. La comparación debería realizarse por millón de kilómetros recorridos y distinguir daños materiales, lesiones leves, graves y muertes.

También debería incluir a peatones, ciclistas, motociclistas y personas con discapacidad, y registrar frenadas bruscas, intervenciones del operador remoto, pérdidas de conectividad, fallas de sensores, conflictos con usuarios vulnerables y colisiones evitadas por escaso margen.

La clasificación SAE J3016 establece seis niveles de automatización, del 0 al 5. El Nivel 4 implica automatización elevada dentro de un dominio operacional definido; el Nivel 5 describe automatización total de la conducción, sin limitación a un dominio específico. SAE J3016 es una taxonomía funcional, no una homologación ni una certificación de seguridad. Si SAE permite medir cuánto puede hacer una máquina por sí misma, la política pública debe determinar cuánto debemos exigir a quienes deciden ponerla en circulación.

Para ello propongo un principio de gradualidad regulatoria donde a mayor autonomía tecnológica, mayor densidad institucional de la responsabilidad. Así, cuanto menos dependa el sistema de la intervención humana, mayores deberían ser las exigencias de seguros, trazabilidad, auditoría, ciberseguridad, reporte de incidentes, accesibilidad, protección de usuarios vulnerables y supervisión pública. También debe regularse la intervención remota, por ejemplo, cuántos vehículos supervisa cada operador, qué facultades posee y cuál es su tiempo máximo de respuesta.

La automatización no elimina la responsabilidad, pero puede fragmentarla hasta volverla difícilmente identificable. Aquí lo importante es que la dimensión ética y jurídica se incorpora antes, al definir objetivos de seguridad, límites operacionales, prioridades de protección, criterios de intervención y mecanismos de rendición de cuentas. No se trata de programar una supuesta “moral de la máquina”, sino de establecer humanamente y ex ante las condiciones bajo las cuales puede actuar.

En un siniestro causado por un vehículo autónomo pueden intervenir el fabricante, el software, los sensores, una actualización remota, la conectividad, el operador y distintos proveedores. Determinar qué falló puede llevar meses. Esa complejidad no debería trasladarse a la víctima.

La legislación argentina exige que los automotores cuenten con seguro de responsabilidad civil y frente a daños causados a terceros, pero ese régimen no resuelve por sí solo la distribución específica de responsabilidad en los vehículos automatizados. El Reino Unido ofrece un modelo que merece ser estudiado. Cuando un vehículo automatizado asegurado conduce autónomamente, el asegurador responde inicialmente frente al tercero perjudicado, sin perjuicio de los mecanismos posteriores de recuperación y de las excepciones legales.

La idea central es razonable: reparar primero y discutir después la atribución definitiva. Un peatón atropellado no debería tener que demostrar si falló un sensor, un algoritmo o una actualización para saber contra quién reclamar. La complejidad tecnológica nunca debería convertirse en complejidad indemnizatoria.

A mayor autonomía decisional debe existir mayor trazabilidad. Ante un incidente, incluidas frenadas de emergencia, fallas de sensores o pérdidas de conectividad, tendría que poder reconstruirse qué modo de conducción estaba activo, qué información recibieron los sensores, qué acciones ejecutó el sistema, qué alertas produjo, qué intervenciones externas existieron y qué versión del software gobernaba el vehículo.

CABA podría crear un observatorio de seguridad de la movilidad autónoma, con información agregada y anonimizada, comparación con la referencia humana local y participación interdisciplinaria. La regulación debe aplicar el principio de minimización de datos y determinar quién custodia la información, cuánto tiempo se conserva, quién puede acceder a ella y cómo se anonimizan peatones y terceros. Todo ello, acorde a la normativa de protección de datos personales entre otros aspectos que deben contemplarse en las pruebas.

También es necesario decidir antes cuándo detenerse. En octubre de 2023, California suspendió los permisos de operación sin conductor de Cruise por considerar que existía un riesgo irrazonable para la seguridad pública, después de un incidente en el que uno de sus vehículos atropelló y arrastró a un peatón.

Esto obliga a establecer previamente eventos gatillo, como una muerte o lesión grave, una falla reiterada inexplicada, un incidente crítico de ciberseguridad o un patrón de riesgo desproporcionado. Esos eventos deberían activar protocolos de revisión, restricción o suspensión.

Los vehículos autónomos involucran ingeniería, IA, seguros, responsabilidad civil, protección de datos, ciberseguridad, defensa del consumidor, accesibilidad y bioética. Las pruebas deberían conllevar la coordinación de las autoridades porteñas con los organismos nacionales competentes, porque CABA regula la circulación, pero la homologación, los seguros y buena parte de la responsabilidad civil también involucran normas nacionales.

Desde la Ética del Límite, el foco debiera estar en aquello que permite ejercer legítimamente una capacidad sin destruir las condiciones que justifican su ejercicio. CABA tiene la oportunidad de demostrar que innovación y responsabilidad no son términos opuestos.

SAE puede indicarnos cuánto puede hacer una máquina sin nosotros. La política pública debe responder la pregunta complementaria: ¿cuánto más debemos responsabilizarnos nosotros cuanto menos nos necesite la máquina?

El verdadero progreso no consiste solo en que un vehículo pueda conducir por sí mismo, sino también en que nuestras instituciones sepan gobernar responsablemente esa autonomía.