El primer caso en Baleares de fotografías manipuladas con programas de Inteligencia Artificial (IA) en las que unas niñas de Felanitx aparecían en un contexto pornográfico falso ha generado alarma y preocupación. De momento hay tres imputados, pero todo a punta a que el número de implicados será muy superior. La imágenes retocadas fueron difundidas de forma masiva y han ocasionado un grave perjuicio a la honra y reputación de las perjudicadas, que se encuentran afectadas por lo ocurrido. El caso es tan grave que ayer María del Mar Pulido, la directora de la Oficina Balear de la Infancia y Adolescencia (OBIA), tuvo que convocar una rueda de prensa urgente para alertar del mal uso de estas tecnologías. Tanto la Guardia Civil, que investiga el caso de Felanitx, como la Policía Nacional se muestran igualmente preocupados por esta prática de manipular fotos y vídeos con aplicaciones de IA, que están al alcance de cualquiera y pueden causar un daño irreparable, especialmente en los menores.
Más control
De hecho, ya son muchas las voces que piden un mayor control sobre las herramientas de Inteligencia Artificial, que son muy útiles a la hora de crear nuevos contenidos lícitos, pero que conllevan un peligro enorme si caen en las manos equivocadas. No hay que olvidar que se trata de programas que están al alcance de cualquier usuario, y que los filtros para menores pueden ser burlados con facilidad.
Denunciar los delitos
También es necesario que los adolescentes sepan que, no ya difundir, sino compartir, este material manipulado de menores, constituye un delito de pornografía infantil, que conlleva penas graves. En caso de recibir fotos o vídeos con niños o niñas en contextos sexuales, sean manipuladas por IA o no, es imprescindible denunciar lo ocurrido y borrar los archivos. Es la única manera de combatir esta lacra.