En un comunicado conjunto, varias agencias de la ONU advirtieron sobre «la asombrosa cantidad de contenido dañino generado por inteligencia artificial (IA) en línea» y pidieron adoptar medidas urgentes para evitar la explotación y el trauma psicológico.

Asimismo, detallaron que, solo en Estados Unidos, los delitos de ese tipo aumentaron de cuatro mil 700 en 2023 a 67 mil en 2024.

El director de la Oficina de Desarrollo de la Unión Internacional de Telecomunicaciones (UIT), Cosmas Zavazava, recordó que durante la pandemia de la Covid-19 muchos niños y jóvenes fueron abusados a través de plataformas digitales mediante el ciberacoso y contenido inapropiado, lo cual en muchos casos se tradujo en daños físicos.

Además, alertó que la IA es utilizada para analizar el comportamiento en línea de los pequeños, su estado emocional y sus intereses, con el fin de adaptar una estrategia de acoso.

Los delincuentes también generan imágenes falsas para extorsionar a sus víctimas.

“Estamos realmente preocupados y nos gustaría que el sector privado se involucrara, participara y formara parte de la historia que estamos escribiendo junto con otras agencias de la ONU y otros actores que creen que la tecnología puede ser un facilitador, pero también puede destruir”, señaló Zavazava.

Los niños se conectan a Internet a una edad cada vez más temprana y deben estar protegidos. Por eso es necesaria la cooperación de los padres, los docentes, los reguladores, la industria y el sector privado, añadió.

Entre las recomendaciones realizadas, las agencias incluyeron el fortalecimiento de los marcos de gobernanza de la IA, la incorporación de los derechos de los niños a todos los programas relacionados con la misma, la aplicación de acciones para prevenir la violencia, la aprobación de medidas sólidas de protección de datos y la toma de decisiones centradas en el interés superior y el desarrollo integral de cada niño.

mem/gas