Riesgos y sesgos de la IA en la generación de contenido científico

El fenómeno conocido como "alucinación" en inteligencia artificial —generación de contenido que suena plausible pero está total o parcialmente inventado— tiene consecuencias distintas según el dominio en el que ocurra. En redacción genérica de marketing, una alucinación es un error corregible. En contenido médico-científico, puede convertirse en un riesgo para la seguridad del paciente o en un riesgo regulatorio directo para la organización que lo publica.

Un análisis conceptual identifica el origen técnico del problema: los modelos de lenguaje aprenden de los datos con los que fueron entrenados, y cuando esos datos contienen sesgos históricos, sociales o de muestreo, los sistemas no solo los replican sino que con frecuencia los amplifican en el contenido que generan ^[1]. En contextos científicos, esto se traduce en estudios inventados, referencias imprecisas o afirmaciones sin respaldo real —un riesgo serio para la integridad de la literatura si no se detecta durante la revisión ^[1].

Es importante distinguir dos tipos de sesgo que suelen mezclarse en la conversación pública sobre IA: el sesgo de los datos de entrenamiento (qué poblaciones, idiomas y fuentes están sobre o subrepresentadas) y la alucinación factual (contenido inventado que aparenta ser verídico). Ambos requieren mitigaciones distintas: el primero exige diversidad y representatividad en las fuentes consultadas; el segundo exige verificación cruzada obligatoria de cada afirmación factual contra fuentes primarias.

Para un equipo que produce contenido científico con asistencia de IA, la mitigación más efectiva documentada hasta ahora no es técnica —es de proceso: ningún contenido generado por IA debería publicarse sin que un experto humano haya verificado cada cita, cada dato numérico y cada afirmación clínica contra la fuente original.