Para disfrutar los contenidos de Clarín es necesario que actives JavaScript en tu navegador.
La historia suele ofrecer bucles sorprendentes. Lo que hoy ocurre con las redes sociales guarda una simetría con la crisis de la industria tabacalera de finales de los años 90, en donde ellas fueron halladas culpables por ocultar la información sobre los componentes químicos adictivos en los cigarrillos. En aquella ocasión las multas y negociaciones terminaron modificado la política de venta, publicidad y consumo masivo de cigarrillos.
Durante dos décadas, las plataformas digitales en los Estados Unidos operaron bajo un manto de inmunidad legal. Basándose en normativas que eximían a las empresas de responsabilidad por los servicios en línea, se estableció que la administración federal y los estados no tenían injerencia en la regulación de sus contenidos. Bajo este esquema, la responsabilidad por los contenidos que circulaban recaía exclusivamente en el usuario.
Este escenario ha comenzado a desmoronarse tras un fallo que modifica la doctrina legal vigente. Un tribunal ha condenado a Meta y Google por los daños ocasionados a una menor afectada por su adicción a Facebook y YouTube. Lo trascendental y sorprendente del fallo no es el contenido en sí, sino la determinación de que las plataformas de datos están diseñadas deliberadamente para generar un uso compulsivo.
Parece según la evidencia del fallo, que el diseño orientado a la permanencia del usuario constituye un daño potencial que la justicia ya no permite ignorar. ¿Es la adicción una consecuencia "de diseño del programa" o una "característica del producto". ¿Qué artículo en el mercado masivo no tiene como objeto su compra permanente?
En nuestro país, a falta de legislación específica en la materia, la Corte Suprema de Justicia entendió en un caso que las plataformas de servicio en línea, en el caso particular sobre Google, no tenía responsabilidad por los resultados que mostraban en su indexación. Que solo lo sería si los contenidos eran manifiestamente ilegales.
El cambio en el tipo de responsabilidad es drástico: si se comprueba que la arquitectura de un software busca la adicción de forma intencional, las consecuencias legales y económicas serán inimaginables. Esta transición de "responsabilidad por contenido" a "responsabilidad por diseño" es el centro de la nueva interpretación judicial. Las empresas requerirán medios de validación de la edad más sofisticados ¿Mermará su uso? ¿Cómo podrá ser aplicable la normativa a otros países? Son preguntas que en el mundo de la tecnología solo el uso masivo nos dará la respuesta.
En definitiva, estamos presenciando el fin de la era de la inocencia algorítmica. Así como la venta de tabaco dejó de ser una elección individual para convertirse en un problema de salud pública, la arquitectura de las redes sociales está dejando de ser un espacio neutral para transformarse en un producto sujeto a la responsabilidad civil. El desafío para la industria ya no será solo moderar qué se dice, sino rediseñar la esencia misma de sus plataformas bajo una nueva ética digital.
¿Serán la biometría y la verificación de identidad el precio necesario para garantizar un entorno seguro? La respuesta no vendrá solo de la tecnología, sino acompañada de la justicia que, finalmente, ha decidido dejar de ser una espectadora pasiva.
Recibí en tu mail todas las noticias, historias y análisis de los periodistas de Clarín
