Una niña puede aparecer en un mitin al que nunca asistió. Su rostro puede incorporarse a una imagen, su voz puede ser reproducida y una escena completamente inexistente puede circular frente a miles de personas como si hubiera ocurrido. La inteligencia artificial incorporó una posibilidad que obliga al derecho electoral a resolver un problema nuevo. Ya no basta con preguntar quién aparece en una imagen. También tendremos que preguntar si alguna vez estuvo ahí.

El Instituto Nacional Electoral acaba de modificar los lineamientos para la protección de niñas, niños y adolescentes en materia político-electoral e incorporó reglas específicas para tecnologías digitales e inteligencia artificial. Entre ellas se encuentra la prohibición de crear deepfakes que hagan parecer que un menor real participó en determinados contenidos cuando esa participación nunca ocurrió.

La decisión atiende un derecho evidente de niñas, niños y adolescentes, pero abre una conversación mucho mayor. Durante décadas, una fotografía, un audio o un video tuvieron un peso particular porque funcionaban como evidencia de que algo había sucedido. Las herramientas generativas están debilitando esa relación entre imagen y realidad.

Eso tiene consecuencias importantes para la vida democrática. Una ciudadanía que no puede distinguir con facilidad entre un acontecimiento y una fabricación digital enfrenta mayores dificultades para evaluar información, tomar decisiones y exigir responsabilidades. El problema no se limita a que exista contenido falso. También puede ocurrir lo contrario. Que frente a una evidencia verdadera alguien simplemente responda que fue creada con inteligencia artificial.

Por eso resulta relevante que las nuevas reglas incorporen conceptos como trazabilidad y transparencia digital. Saber que una imagen fue modificada, conocer su origen y contar con elementos que permitan identificar el proceso de creación empieza a convertirse en una cuestión vinculada con derechos, responsabilidades y confianza pública.

La legislación tendrá que avanzar, pero ninguna regulación podrá revisar cada imagen antes de que llegue a una pantalla. Ahí aparece nuevamente la educación como parte de la respuesta. La alfabetización digital ya no puede limitarse al manejo de herramientas. Necesitamos formar personas capaces de verificar información, contrastar fuentes y comprender que ver y escuchar dejaron de ser pruebas suficientes para creer.

La inteligencia artificial puede fabricar rostros, voces y acontecimientos. Lo que no debería fabricar es nuestra opinión. En una democracia, conservar esa diferencia dependerá tanto de las reglas que establezcamos como de la capacidad crítica de quienes reciben la información.