«La Inteligencia Artificial (IA) es un riesgo para la celebración de unas elecciones democráticas», advirtió la subdirectora general de Ciencias Sociales y Humanas de la Unesco, la mexicana Gabriela Ramos, en una entrevista con EFE en Nairobi.
«Lo sabemos, por la propagación acelerada de ‘deep fakes’ (ultrafalsos) a través del aumento de los sistemas de IA generativos que aumentan sus capacidades analíticas y producción de resultados», afirmó Ramos, que esta semana participó en la capital keniana en el Foro Subregional de África del Este sobre Inteligencia Artificial.
Proliferación de noticias falsas
Ramos reconoció que existe una «proliferación de información falsa» que afecta a las elecciones en países de todo el mundo, como los comicios presidenciales de Estados Unidos, que tendrán lugar el próximo 5 de noviembre.
Sin embargo, el país norteamericano «está considerando prohibir las ‘deep fakes’, que son reproducciones falsas aparentemente reales en formato audiovisual o escrito», aseguró la subdirectora general.
El organismo de la ONU cuenta con un programa de trabajo para que se responsabilicen las plataformas que trabajan con IA.
También con las Recomendaciones Éticas sobre Inteligencia Artificial, un documento de la Unesco firmado en 2021 por 194 países de todo el mundo, «se están tomando acciones concretas», señaló.
«Si tú lo penalizas, si tú lo conviertes en un crimen, elevas el costo a quienes vayan a utilizar ese tipo de prácticas para influir o para incidir de una manera negativa en las elecciones», agregó.
Ramos incidió en que no sólo se necesitan soluciones legislativas para garantizar el buen uso de esta tecnología, sino también soluciones técnicas que implican, por ejemplo, «que cualquier imagen, voz, video que se haga con inteligencia artificial de personas reales tengan una marca de agua.»
Este tipo de herramientas y estándares técnicos permitirían que los usuarios puedan identificar la información falsa.
Respuestas jurídicas
También abogó por proporcionar una respuesta jurídica, al recordar que la nueva presidenta de México, Claudia Sheinbaum, fue víctima durante la campaña electoral de un vídeo falso en el que ella invitaba a invertir en una supuesta plataforma financiera.
«Es necesario un mecanismo jurídico establecido bajo el Estado de Derecho, la rendición de cuentas y los regímenes de compensación, para que la presidenta electa de México, en este caso, pueda acudir a una instancia judicial que esté capacitada para perseguir ese delito y exigir responsabilidades», explicó.
Si se invierten billones de dólares en empresas desarrolladoras como Open AI para lanzar la plataforma de IA Chat GPT, insistió, los gobiernos deben invertir en la capacidad institucional, analítica y personal para proteger a la sociedad.
Por otro lado, la responsable de la Unesco subrayó que, antes de lanzar al mercado esos productos, las compañías tienen que responsabilizarse desde el inicio.
Con información de EFE
