El modo correcto de regular la IA
La decisión del presidente estadounidense Donald Trump de designar al secretario del Tesoro, Scott Bessent, como encargado de poner en práctica su reciente orden ejecutiva sobre supervisión de la inteligencia artificial señala un cambio significativo en la actitud estadounidense hacia la gobernanza de la tecnología.
Era improbable que ese cambio surgiera de la industria de la IA o de los organismos de regulación sectoriales, ya que ambos siguen aferrados al discurso habitual de que la regulación frena la innovación y de que la prioridad más importante del gobierno tiene que ser superar a China mediante el desarrollo de los modelos de IA más avanzados (llegando incluso a la superinteligencia).
Aunque tal vez Bessent comparta la determinación de su gobierno respecto de derrotar a China, el hecho de dar al Departamento del Tesoro un lugar central en la supervisión de la IA en Estados Unidos añade una perspectiva institucional muy bienvenida. Desde el punto de vista de la seguridad nacional, de la ciberseguridad, de la estabilidad financiera y de las infraestructuras críticas, la IA exige una filosofía de regulación muy diferente del enfoque de no intervención y libre mercado que hasta ahora definía la política de Trump para el sector.
La última propuesta de Bessent da la señal más clara de ese cambio. Según Bloomberg, la administración Trump está próxima a crear una agencia inspirada en la Autoridad Reguladora de la Industria Financiera (FINRA), un organismo de autorregulación financiado por el sector que supervisa a las entidades que operan en bolsa, en un marco autorizado por el Congreso y supervisado por la Comisión de Valores y Bolsa.
La buena noticia es que por primera vez, un gobierno estadounidense contempla seriamente la creación de un organismo específico que proteja el interés público evaluando los modelos de IA de vanguardia antes de su lanzamiento. El problema es que la agencia propuesta sigue el modelo de la FINRA, cuya dirección y financiación corren por cuenta de la misma industria a la que regula. No extraña entonces que el director ejecutivo de Google DeepMind, Demis Hassabis, sea un viejo defensor de la idea.
Pero más allá del evidente conflicto de intereses, el modelo tiene un defecto más fundamental: no está diseñado para detectar riesgos sistémicos. Esa debilidad quedó al descubierto durante la crisis financiera global de 2008, que generó un costo estimado para la economía estadounidense de 22 billones de dólares y motivó las reformas introducidas por la Ley Dodd‑Frank, entre ellas la creación del Consejo de Supervisión de la Estabilidad Financiera.
Un modelo basado en la FINRA no es adecuado para la supervisión de la IA. En vez de eso, los gobiernos deben crear experiencia propia en IA, sobre la base de los mecanismos de supervisión pública introducidos tras el surgimiento de la IA generativa. Una de esas medidas fue la orden ejecutiva del expresidente Joe Biden que exigía a los desarrolladores de modelos de IA de vanguardia presentar los resultados de sus pruebas de seguridad al gobierno federal antes de lanzarlos. Ese mismo año, el primer ministro del Reino Unido, Rishi Sunak, puso en marcha la Cumbre sobre Seguridad de la IA, encargó el primer Informe Internacional sobre Seguridad de la IA y sentó las bases para la creación de los Institutos de Seguridad de la IA.
Tras el lanzamiento del modelo Mythos de Anthropic (el modelo avanzado más potente hasta la fecha), Trump también emitió una orden ejecutiva. Pero no es suficiente, ya que deja la evaluación prelanzamiento al arbitrio de las empresas. Esto crea un profundo desequilibrio: los sistemas de IA actuales son cada vez más potentes y demandan instituciones públicas independientes con la experiencia y la autoridad necesarias para supervisarlos; pero la orden ejecutiva de Trump no ofrece ninguna de las dos cosas.
La misma asimetría se hace evidente en la respuesta de los gobiernos a los riesgos de la IA. Tienden a tratar la IA ante todo como un problema de seguridad nacional, y dedican muchos menos recursos a abordar sus efectos sobre el empleo, la salud pública, la educación y otros aspectos de la vida cotidiana. Incluso la Ley de IA de la Unión Europea (a pesar de que manda evaluar esos riesgos sociales) pone el acento en la ciberseguridad.
Una excepción notable es el creciente reconocimiento de los riesgos de la IA para los niños en Internet, que dio lugar a acciones legislativas y judiciales en muchos países, incluido Estados Unidos. Pero las consecuencias sociales más amplias (por ejemplo los efectos sobre las oportunidades económicas de las mujeres, el desarrollo cognitivo y la privacidad) todavía no motivaron una respuesta estratégica coherente.
Esta priorización sesgada es atribuible al hecho de que el desarrollo de la IA se plantea como una competencia geopolítica. Pero el liderazgo tecnológico no sirve de nada si se consigue en detrimento de la salud de los trabajadores, de la resiliencia social y de la capacidad de las personas para llevar una vida plena. Un país que desarrolle los modelos de IA más avanzados y al mismo tiempo deje a sus trabajadores sin las cualificaciones necesarias y permita que la desinformación contamine su discurso público no habrá ganado nada.
Abordar estas inquietudes sociales no es incompatible con la competitividad. Al contrario, es esencial para la competitividad y para la seguridad nacional. En última instancia, lo que determina el éxito en la era de la IA no son sólo las capacidades de los modelos de vanguardia de un país, sino también la solidez de las instituciones que protegen el bienestar de sus ciudadanos: escuelas y universidades, salud pública y asistencia social, poder judicial independiente.
Pero son esas precisamente las instituciones con más dificultades para seguir el ritmo del cambio tecnológico. Según datos de la OCDE, los beneficios de la IA en educación y en los mercados laborales muestran un reparto sesgado que refuerza las desigualdades existentes: los estudiantes más avanzados pueden aprovechar mejor el aprendizaje basado en IA, y los trabajadores más cualificados pueden adaptarse más fácilmente a la nueva tecnología.
Tendencias similares se observan en áreas como la salud pública, las prestaciones sociales y el sistema judicial. La delegación a gran escala de decisiones a la IA torna más difícil impugnar los errores, sobre todo para quienes menos recursos tienen para hacerlo. Una base de datos de «alucinaciones» de la IA, mantenida por Damien Charlotin (HEC Paris), registra en todo el mundo más de 1800 casos en los que los tribunales identificaron material fraguado generado por IA, presentado a menudo por litigantes que no podían permitirse un abogado y se representaban a sí mismos.
Las implicaciones para la integridad de los procesos judiciales son de gran alcance. Los tribunales dependen de la capacidad de verificar hechos y pruebas, pero la IA les pone cada vez más difícil esa tarea, con un efecto desproporcionado sobre quienes ya están en situación de desventaja. Por ejemplo, en julio el Tribunal Supremo de la India anuló dos sentencias de tribunales inferiores basadas en jurisprudencia inexistente y advirtió de que basarse en precedentes generados por IA no verificados «subvierte el Estado de derecho».
Es verdad que muchos de los efectos sociales de la IA no podrán evaluarse antes de su despliegue como en el caso de los riesgos de ciberseguridad. Pero eso es una razón adicional para someterla a supervisión pública continua.
En lugar de otra agencia manejada por la industria, lo que necesitan Estados Unidos y otros países es el equivalente en materia de IA del Consejo de Supervisión de la Estabilidad Financiera: un organismo regulador que se encargue de identificar los riesgos sistémicos para la educación, la salud pública, los mercados laborales y el poder judicial. Ya hemos creado organismos de este tipo para salvaguardar la estabilidad financiera y la seguridad nacional. Es hora de hacer lo mismo por las instituciones de las que depende la sociedad.
Gabriela Ramos es copresidenta del Grupo de Trabajo sobre Desigualdades y Divulgación de Información Financiera de Carácter Social, fue subdirectora general de Ciencias Sociales y Humanas de la UNESCO, donde supervisó la elaboración de la Recomendación sobre la Ética de la IA, y jefa de gabinete y «sherpa» de la OCDE ante el G20, el G7 y la APEC. Emilija Stojmenova Duh, profesora asociada de Ingeniería Eléctrica en la Universidad de Liubliana, es integrante del consejo directivo de la Fundación Globethics y del panel científico para la IA de la UE y exministra de transformación digital de Eslovenia.
Recibí en tu mail todas las noticias, historias y análisis de los periodistas de Clarín
