Deepfakes: Sugieren el control parental en casos de aplicaciones con inteligencia artificial

Ante esta problemática lanzan una guía para acompañar la incursión segura de niños, niñas y adolescentes en las tecnologías, útil para entornos familiares y escolares.

En los últimos años, la inteligencia artificial (IA) ha revolucionado la forma en que interactuamos con el mundo digital. 

Laura Victoria Bonhôte, abogada especializada en infancia y adolescencia, dialoga con Radio UNNE sobre una iniciativa que busca acompañar a las familias en la incursión tecnológica de menores de edad. Señaló la necesidad del control parental para prevenir la manipulación de su identidad vía herramientas de inteligencia artificial.

 Entre las aplicaciones de la IA, una de las más controvertidas en términos de seguridad, es la tecnología deepfake: la creación de imágenes, audios o videos ultrarrealistas manipulados por IA, capaces de suplantar rostros y voces de manera casi indetectable.

Los menores de edad se encuentran especialmente vulnerables: al estar en proceso de desarrollo cognitivo y emocional les resulta más difícil distinguir entre contenido real y falso, haciéndolos blancos fáciles para numerosos riesgos. Atendiendo a esta problemática, en una iniciativa interinstitucional e interdisciplinaria, lanzaron una guía para acompañar la incursión segura de niños, niñas y adolescentes en las tecnologías, útil para entornos familiares y escolares.

Bonhôte apuntó: “Este trabajo viene de hace dos años con el boom de acceso a Open IA, y la disposición que hoy hay en torno al uso de IA generativa sin ningún tipo de control ni de protección de datos. Esto quiere decir que cualquier persona, independientemente de su edad, puede hacer uso de estas herramientas”.

Estamos empezando a tomar conciencia de cuáles son los beneficios del uso de las tecnologías, pero también los riesgos. Las familias tienen que tomar conciencia de cuáles son las dificultades que pueden enfrentar los chicos dentro de los entornos digitales, para acompañar y educar”, explico la especialista.

En el caso del ciberacoso y el bullying digital, los deepfakes pueden ser utilizados para crear videos o imágenes humillantes de niños y adolescentes, difundiendo contenido falso que daña su integridad. Estos materiales pueden circular en las escuelas y redes sociales, incrementando la presión y el malestar psicológico de la víctima. La IA también puede ser utilizada para generar imágenes o videos sexuales falsos de menores de edad.

La especialista señala que no existen datos oficiales sobre las afectaciones a menores de edad por deepfakes. Son los casos más resonantes que llegan a visibilizarse en el plano mediático o vía denuncia penal, como suele ocurrir con los casos vinculados a la violencia sexual digital. La abogada advierte: “Muchos de los casos que estamos viendo y diría más del 90% son casos que se gestaron en las aulas, con víctimas niñas, mujeres”. 

“Muchos de los casos que estamos viendo y diría más del 90% son casos que se gestaron en las aulas, con víctimas niñas, mujeres”. 

"Las consecuencias están presentes y perduran, sobre todo cuando hablamos de infancias. No se soluciona con borrar un material de internet. Genera una gran afectación emocional”, detalla Bonhôte y apuntó a la importancia de la toma de conciencia, la información, el conocimiento, el control parental y la prevención para la protección de niños, niñas y adolescentes frente a la manipulación de su imagen y datos personales.

El material, titulado “Deepfakes e Infancias. Proteger identidades digitales” busca acompañar el acceso temprano a la tecnología, facilitando la interacción de los jóvenes con herramientas de IA, sensibilizar para su utilización lúdica y atendiendo a los riesgos y fomentar la protección. Se trata de una iniciativa del Ministerio de Justicia y Derechos Humanos de la provincia de Santiago del Estero, acompañada por la Universidad de Buenos Aires, la Universidad de Rosario y la Sociedad Argentina de Inteligencia Artificial.

Fuente: Radio Unne