"Existe una comunidad técnica dentro del espacio de los delincuentes, particularmente en los foros de la web oscura, donde se discute esta tecnología", alertó Dan Sexton, director de IWF.
Por Canal26
Miércoles 13 de Septiembre de 2023 - 15:28
La inteligencia artificial (IA) se encuentra bajo la mira después de que la Organización Internet Watch Foundation (IWF) alertara que pedófilos están explotando software de IA de código abierto para fabricar material de abuso sexual infantil (CSAM), a través de imágenes alteradas de niños conocidos o famosos.
La principal diferencia entre la IA de código abierto y las herramientas de modelo cerrado, como Dall-E de OpenAI o Imagen de Google, radica en que los usuarios pueden descargar, modificar y ajustar el software de la primera, mientras que los modelos subyacentes de la segunda no están disponibles al público.
Dan Sexton, director de tecnología de la IWF, expresó que "existe una comunidad técnica dentro del espacio de los delincuentes, particularmente en los foros de la web oscura, donde se discute esta tecnología. Comparten imágenes, modelos de IA y guías".
Durante una entrevista con el diario 'The Guardian', Sexton destacó la dificultad de abordar el problema debido a que el contenido generado con software de código abierto "se descarga y ejecuta localmente en las computadoras de las personas".
La alerta indicó que los delincuentes comienzan con un modelo básico de generación de imágenes, que luego se ajusta con imágenes de abuso sexual infantil, lo que permite generar contenido más realista y perturbador con menos requerimientos de computación.
"El abuso sexual infantil en línea ya es una epidemia de salud pública. Potencialmente esto solo empeorará las cosas", advirtió Sexton ante el posible incremento de contenido de abuso infantil generado por IA.
Asimismo, a los expertos les preocupa que dichos contenidos ilícitos generados por IA dificulten la identificación y asistencia a las víctimas reales. Además, la creación masiva de imágenes realistas podría ampliar su consumo.
Te puede interesar:
De qué se trata Learn About, la nueva herramienta de Google que utiliza Inteligencia Artificial
Reino Unido planea abordar el tema del abuso sexual infantil generado por IA en el próximo proyecto de ley de seguridad en línea, obligando a las plataformas de redes sociales a prevenir su difusión.
Ian Hogarth, presidente del grupo de trabajo de IA del Gobierno británico, se mostró preocupado por los desafíos de los modelos de código abierto, que una vez liberados, son difíciles de controlar.
1
De qué se trata el curso gratuito de Google sobre Inteligencia Artificial y Aprendizaje Automático
2
Los autos eléctricos dominan el mercado en Europa: los diez más vendidos
3
Comprar en Amazon desde Argentina: los pasos para traer productos del exterior sin comisión
4
De qué se trata Learn About, la nueva herramienta de Google que utiliza Inteligencia Artificial
5
Cómo evitar estafas virtuales: los números que no hay que atender nunca
Mantenete siempre informado