La tecnología deepfake puede producir un video o audio falso de una persona, que se percibe como verdadero, expresando algo que en realidad nunca dijo. Estas falsificaciones generan, sistemáticamente, amenazas de fraudes en línea.
Por Canal26
Martes 23 de Abril de 2024 - 17:59
Diversos organismos y autoridades del mundo advirtieron sobre el uso de inteligencia artificial para generar deepfakes y ciberestafas, cuyas víctimas suelen ser las corporaciones empresariales.
La tecnología deepfake puede producir un video o audio falso de una persona, que se percibe como verdadero, expresando algo que en realidad nunca dijo. Estas falsificaciones generan, sistemáticamente, amenazas de fraudes en línea.
Un caso conocido fue el de un gerente de una empresa que transfirió 25 millones de dólares a varias cuentas, creyendo que la voz de su interlocutor, era de su jefe.
El uso de chatbots de IA, como ChatGPT, también puede fomentar las actividades fraudulentas, pudiendo ayudar a los posibles estafadores a superar errores de lenguaje que se suelen encontrar en mensajes que persiguen el engaño a una víctima (ejemplo de ello es una petición y respuesta de ChatGPT en cualquier idioma).
Encontrá más vídeos
Es decir que estos modelos de lenguaje de gran tamaño pueden crear mensajes de todo tipo, con una excelente gramática, haciéndolos pasar como verdaderos y disminuyendo la posibilidad de identificar a los sospechosos.
Te puede interesar:
Los increíbles anteojos tecnológicos de Samsung que cuentan con inteligencia artificial
Ante esta situación cada vez más problemática, el Gobierno italiano aprobó un decreto en el que se prevén penas de cárcel de uno a cinco años para quien cause "daños injustos" con el uso de sistemas de inteligencia artificial y que incluye una dotación de mil millones de euros para apoyar el desarrollo de start-ups en el sector.
El proyecto, que ahora debe ser aprobado por el Parlamento, donde la coalición de derechas que preside Giorgia Meloni cuenta con mayoría absoluta, trata de poner orden en un sector con múltiples campos de aplicación cuyo potencial e implicaciones están aún por explorar.
El texto, que también obliga al consentimiento paterno para la inscripción de los menores de 14 años en sistemas como los chatbots, estipula que la inteligencia artificial debe desarrollarse y aplicarse respetando la autonomía humana y el poder de decisión, y no deben socavar la conducción democrática de la vida institucional y política.
La condición esencial es que se garantice la ciberseguridad, mientras que en el caso de la información, la intención es que los sistemas de IA se utilicen "sin perjuicio de la libertad y el pluralismo de los medios de comunicación, la libertad de expresión, la objetividad, la exhaustividad, la imparcialidad y la lealtad de la información", según los medios locales.
1
WhatsApp: qué significa sacar la foto de perfil, según la psicología
2
WhatsApp dejará de funcionar en algunos celulares a partir de diciembre 2024: los modelos afectados
3
Adiós a la PlayStation 4: a partir de qué fecha Sony dejará de dar soporte a la consola
4
Los increíbles anteojos tecnológicos de Samsung que cuentan con inteligencia artificial
5
En simples pasos: cómo pasar una canción de Instagram a una playlist en Spotify