TN

Temas de hoy:

  • Legislativas porteñas
  • Papa León XIV
  • Javier Milei
  • Franco Colapinto
  • Dólar hoy
  • Inundaciones en PBA
  • TN Cultura
  • Tecno
  • Ingresar
    EN VIVO
    tnTecnoNovedades

    España multará con hasta 35 millones de euros la publicación de videos engañosos generados con IA

    Aún se espera la aprobación de la normativa propuesta, que se basa en una legislación instaurada a nivel continental por el Parlamento Europeo.

    Uriel Bederman
    Por 

    Uriel Bederman

    13 de marzo 2025, 10:09hs
    Las deepfakes son imágenes y videos que se crean con herramientas de IA, con un grado de realismo que en ocasiones deriva en desinformación y difamación. (Foto: Creada con OpenAI DALL-E)
    Las deepfakes son imágenes y videos que se crean con herramientas de IA, con un grado de realismo que en ocasiones deriva en desinformación y difamación. (Foto: Creada con OpenAI DALL-E)

    El gobierno español prevé sancionar severamente a quienes publiquen deepfakes, un término que refiere a las falsificaciones creadas con herramientas de Inteligencia Artificial. Las multas podrían ascender a los 35 millones de euros, en los casos más graves. La normativa fue propuesta por el Consejo de Ministros, donde recibió luz verde, y se espera que supere nuevas aprobaciones para ser instaurada.

    Deepfakes: ¿por qué son peligrosas?

    El arrollador avance de IA Generativa (que tiene como paradigma a OpenAI y a su bot conversacional ChatGPT) trae consigo una serie de beneficios apreciables, principalmente la capacidad de abordar tareas que hasta hace poco tiempo eran exclusivas de los humanos. Por caso, los chatbots pueden mantener conversaciones naturales, responder consultas, generar imágenes y videos a través de herramientas especiales, redactar y resumir textos, crear videojuegos y escribir código de softwares, entre otras habilidades.

    Con simples instrucciones, algunas IAs puede crear falsificaciones en pocos segundos. (Foto: Adobe Stock)
    Con simples instrucciones, algunas IAs puede crear falsificaciones en pocos segundos. (Foto: Adobe Stock)

    Ese despliegue también implica algunos riesgos y propicia algunas actividades nocivas. Una de ellas es la divulgación de falsificaciones, que gracias a la IA pueden crearse y distribuirse con suma facilidad. ¿Por qué es problemático? Con un alto nivel de realismo, las deepfakes (que pueden ser imágenes, videos o audios) son capaces de confundir, engañar, difamar y desinformar. También pueden emplearse en sofisticados ciberataques e intentos de fraude.

    Leé también: ¿Eso es real? Los secretos para descubrir si una imagen fue creada con Inteligencia Artificial

    Los casos abundan, igual que las intenciones detrás de esos contenidos falsificados con IA:

    • En EE.UU., fue célebre un engaño que imitó la voz del expresidente Joe Biden para confundir a votantes a través de llamadas telefónicas.
    • Celebridades fueron difamadas con fotografías y videos generados con IA, en las que figuras falsificadas aparecen escenas en las que nunca participaron en el mundo real, por ejemplo en escenas sexuales. El año pasado, varias redes sociales debieron frenar las publicaciones en las que se mencionaba a Taylor Swift, porque la cantante había aparecido en innumerables deepfakes pornográficas.
    • Tal como señalamos, la desinformación es otro de los riesgos. Por caso, con imágenes generadas con IA es posible divulgar rápida y fácilmente fake news con un alto poder de engaño.
    • El ámbito de la ciberseguridad también está en alerta. Por mencionar un ejemplo, el año pasado se conoció el caso del empleado de una compañía que fue engañado con una deepfake que emuló a su jefe, que le solicitó una transferencia de dinero cuantiosa, que él concretó antes de percatarse del engaño.
    Desinformación, fraudes y difamación, algunos de los efectos nocivos de las deepfakes. (Foto: Adobe Stock)
    Desinformación, fraudes y difamación, algunos de los efectos nocivos de las deepfakes. (Foto: Adobe Stock)

    Hay un detalle relevante, en este punto. Si bien la mayoría de los generadores tienen restricciones para impedir el uso nocivo de las deepfakes (como la inclusión de marcas de agua, metadatos que delartan el uso de IA y prohibiciones para incluir a celebridades en el contenido); aún hay sistemas que eluden esas salvaguardas. Por ejemplo, Grok de xAI, la compañía de IA propiedad de Elon Musk, sí permite usar a famosos en su generador.

    España castigará la publicación de deepfakes: los detalles de una propuesta basada en normativas europeas

    El Consejo de Ministros español aprobó un anteproyecto cuyo propósito es propiciar el uso ético, beneficioso e inclusivo de la IA y sus vertientes. De acuerdo a la publicación Genbeta, la intención es adaptar la legislación aprobada en el año 2023 a nivel continental por la Comisión Europea y aprobada por el Parlamento Europeo.

    ¿Querés recibir más noticias de Tecno?

    Suscribite acá

    El plan del gobierno español exige que las creaciones con IA se etiqueten como tales; es decir, que se indique en forma clara que para su generación se emplearon herramientas automatizadas y que, en tanto, no son auténticas y/o capturadas del mundo real. Al respecto, las autoridades señalaron que el etiquetado debe ser “claro y distinguible, a más tardar en ocasión de la primera interacción o exposición” del material.

    Siguiendo a la fuente, diversos organismos del país europeo se encargarán de determinar las sanciones, dependiendo del contenido y de su alcance.

    Se espera que la normativa entre en vigor más pronto que tarde, aunque para ello debe volver al Consejo de Ministros en calidad de proyecto de ley y luego ir a las Cortes Generales para su tramitación parlamentaria. En ese trayecto precisará conseguir el apoyo de diversas fuerzas políticas de aquel país.

    Las más leídas de Tecno

    1

    El apagón de España, El Eternauta y la radio: lo viejo funciona

    2

    Los maestros están usando ChatGPT, y algunos alumnos no están contentos

    Por 

    The New York Times

    3

    CausVid, el generador de videos creado en el MIT destapa la olla de la automatización

    Por 

    Uriel Bederman

    4

    Mientras cuidaba a su hija imaginó un videojuego de fútbol para los que no son gamers: así nació Pasala!

    Por 

    Rodrigo Álvarez

    5

    Argentina y el futuro de la IA autónoma: ¿estamos listos para la próxima generación?

    Por 

    Mayra Morales

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    Inteligencia artificialdeepfakesEspaña

    Más sobre Tecno

    Por qué la NSA recomienda apagar el dispositivo al menos una vez a la semana. (Foto: Adobe Stock)

    Ni por la batería ni por el almacenamiento: por qué recomiendan reiniciar el celular una vez por semana

    Manus es un agente autónomo de inteligencia artificial presentado este año por la startup china Monica (Imagen: Pixabay)

    Argentina y el futuro de la IA autónoma: ¿estamos listos para la próxima generación?

    Por 

    Mayra Morales

    La radio logró evoluiocnar junto con las nuevas tecnologías, adaptarse y mantenerse vigente (Foto: Freepik)

    El apagón de España, El Eternauta y la radio: lo viejo funciona

    Los comentarios publicados en TN.com.ar podrán ser reproducidos parcial o totalmente en la pantalla de Todo Noticias, como así también las imágenes de los autores.

    © 1996 - 2025, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • El Gobierno salió a desligarse del escándalo de las imágenes de Macri generadas con IA
    • Si tenés cáscaras de bananas, no las tires: por qué recomiendan ponerlas en un frasco con agua
    • Consejeros del INTA advirtieron por un ajuste “inconsulto impulsado desde el Gobierno”
    • Elecciones legislativas CABA 2025, EN VIVO: dónde voto, qué se vota, candidatos y multas por no votar

    Secciones

    • Últimas noticias
    • Elecciones 2025
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2025, Artear

    Mapa del sitio
    Términos y Condiciones
    Políticas de privacidad
    Media Kit