La diferencia entre producir lenguaje y producir conocimiento
Desde la llegada de internet se instaló una narrativa seductora: la tecnología democratiza. Se terminaron los intermediarios para publicar u opinar. Los viejos guardianes —editores, académicos, especialistas— parecían perder poder frente a una red abierta. Con modelos como ChatGPT, Gemini o Claude, esa promesa parece alcanzar su punto más alto. Ahora cualquiera puede investigar y escribir textos que antes requerían años de formación.
Pero ahí surge una paradoja. La inteligencia artificial democratiza la producción de textos, no la producción de conocimiento confiable. Todos podemos generar respuestas, informes o argumentos con una fluidez antes reservada a quienes dominaban un campo. Lo que es difícil de democratizar es la capacidad de saber si lo que recibimos es verdadero o está bien fundado. Por eso, la tecnología que parecía volver prescindibles a los expertos ahora los vuelve más necesarios.
Cuando un modelo se equivoca, se equivoca con total convencimiento. En 2023, un abogado estadounidense fue sancionado por presentar ante un tribunal federal precedentes que ChatGPT había citado. Ninguno existía. Los fallos tenían nombres, fechas y números de caso verosímiles, y todo era inventado. Pueden atribuir ideas a autores que nunca las sostuvieron y construir razonamientos sobre datos falsos. Y es imposible saber, desde adentro del texto, cuándo eso ocurre.
Esto es más que un déficit técnico que las próximas versiones resolverán. Un LLM carece de acceso a la verdad independiente de los datos con los que fue entrenado. Solo tiene acceso a patrones en nuestro lenguaje, y esos patrones incluyen tanto la información acumulada como los errores, las ficciones y las combinaciones estadísticas que pueden surgir. La plausibilidad lingüística y la exactitud factual no son lo mismo, aunque en la superficie sean indistinguibles.
Se puede conceder algo al optimista: los modelos mejoran y algunos ya citan fuentes verificables. Pero una herramienta puede confirmar que una cita exista; no que la fuente diga lo que el modelo le atribuye o que el razonamiento alrededor se sostenga. Eso exige conocer el terreno de antemano. Alguien tiene que saber lo suficiente para sospechar la posibilidad de un invento o un error y dónde ir a mirar. La herramienta amplifica a quien ya sabe; ese saber sigue siendo irremplazable.
El papel del experto sigue siendo central. Le toca verificar, contextualizar, detectar omisiones, y reconocer cuándo una afirmación plausible no alcanza el estándar de verdad de una disciplina. En un entorno lleno de textos convincentes, el experto ayuda distinguir entre producir lenguaje y producir conocimiento.
La democratización de la voz fue una conquista real. Pero voz y conocimiento son cosas distintas. Hoy sobran respuestas que suenan igual de bien, sean ciertas o no. En ese mundo, la autoridad pasa a ser la capacidad de reconocer cuándo una respuesta merece ser tomada como un cimiento sobre el cual se puede construir.
Recibí en tu mail todas las noticias, historias y análisis de los periodistas de Clarín
