¿Hasta qué punto se puede confiar en la IA para la verificación de hechos?

· Asia

¿Hasta qué punto se puede confiar en la IA para la verificación de hechos?

Pese al rápido desarrollo de la IA, los datos estadísticos muestran que los chatbots actuales cometen errores en una de cada dos consultas, por lo que la verificación profesional de los periodistas sigue siendo una parte esencial de los medios.

Los chatbots modernos y los motores de búsqueda con IA integrada todavía no pueden reemplazar por completo a los humanos en la verificación de hechos. A pesar del desarrollo de las tecnologías, los grandes modelos de lenguaje (LLM, por sus siglas en inglés) siguen demostrando un alto nivel de imprecisiones, y su «seguridad» al responder a menudo roza las alucinaciones.

El problema puede estar relacionado también con el hecho de que los modelos están programados para tratar de satisfacer al usuario, lo que a menudo provoca una reacción excesiva y la invención de fuentes ficticias. Los estudios demuestran que la tasa de error en las respuestas de la inteligencia artificial sigue siendo crítica. En particular, según datos del Tow Center for Digital Journalism, más del 60 % de las respuestas de los motores de búsqueda con IA son inexactas, y los estudios de la BBC señalan una tasa de error en los chatbots de alrededor del 45 %; algunos estudios muestran que en ciertas pruebas la proporción de errores se acerca a la mitad de las respuestas. Incluso los puntos de referencia especializados, como SimpleQA de OpenAI, demuestran que los mejores modelos apenas superan el umbral del 50 % de respuestas correctas.

Los especialistas que se dedican profesionalmente al fact-checking subrayan que el papel humano sigue siendo indispensable. Como señala Mark Frankel, de la organización británica Full Fact: «El ser humano es necesario», ya que la IA todavía comete errores de forma regular. A diferencia de los algoritmos, los verificadores de hechos profesionales trabajan con fuentes primarias, comprueban el contexto, analizan los aspectos éticos y legales, y negocian con personas, lo que permite detectar discrepancias allí donde una máquina solo ve la probabilidad estadística de las palabras.

Los experimentos con los modelos más populares (ChatGPT, Claude, Gemini, Grok) demuestran que, aunque la IA puede ofrecer un plan de verificación, rara vez lleva la tarea hasta el final. Cuando a los modelos se les plantea una tarea concreta de verificación de hechos, a menudo se limitan a frases genéricas, ofrecen datos inexistentes o no realizan el trabajo en absoluto.

Un factor importante es también que en internet solo se encuentra una pequeña parte del conocimiento acumulado por la humanidad. La IA no puede abarcar automáticamente una parte significativa de los archivos físicos que no están en internet, ni poseer una comprensión intuitiva del contexto, lo cual es crítico para un periodismo de calidad.

«No creo que uno pueda permitirse ignorar la IA o considerarla simplemente una moda pasajera que no influye en cómo la gente busca información», considera Angie Holan, directora de la International Fact-Checking Network. Según ella, los periodistas y los investigadores deberían estudiar los mecanismos de funcionamiento de estos sistemas para entender sus fortalezas y debilidades, pero sin confiar en ellos como una fuente infalible de la verdad.

Basado en información de: WIRED Japan

Adaptación al español con ayuda de inteligencia artificial. Читати українською

¿De qué va? — la edición en español de «Про Що?»