TN

Temas de hoy:

  • Javier Milei
  • Escándalo de las valijas
  • Tensión entre Milei y los gobernadores
  • Soldado argentino asesinado en Ucrania
  • Dólar hoy
  • Niebla en el AMBA
  • Se separaron Nico Vázquez y Gimena Accardi
  • Tecno
  • Ingresar
    EN VIVO
    tnTecnoNovedades

    Así funciona la peligrosa inteligencia artificial de TikTok que imita voces: “Implica riesgos”

    El sistema basado en inteligencia artificial se destaca por el realismo de los resultados y por la capacidad de funcionar en tiempo real. Especialistas advierten una profundización en la problemática de las deepfakes.

    29 de enero 2024, 12:31hs
    StreamVoice es un desarrollo de ByteDance, la empresa china detrás de TikTok. (Foto: Adobe Stock)
    StreamVoice es un desarrollo de ByteDance, la empresa china detrás de TikTok. (Foto: Adobe Stock)
    Compartir

    ByteDance, la compañía china que desarrolla TikTok, tiene entre manos un avanzado sistema capaz de imitar voces de otras personas con gran realismo. Además, a diferencia de las tecnologías hasta ahora disponibles, actúa en tiempo real. El progreso es valioso, aunque trae una serie de riesgos debido a la dificultad para distinguir el contenido falso. Así, se agrava la problemática de las deepfakes o falsificaciones profundas, con sus numerosas consecuencias indeseables, como la desinformación, la difamación y el engaño.

    StreamVoice: así funciona el clonador de voces de ByteDance

    Las deepfakes no se agotan en las imágenes y los videos. El audio es otro de los formatos sobre los que operan los sistemas de falsificación. El creado por ByteDance se llama StreamVoice. Tal como señalamos, su principal progreso es la capacidad de funcionar en tiempo real. En la práctica, alguien puede hablar al micrófono para que el sistema, en ese mismo momento, emule la voz de un tercero.

    La problemática de las deepfakes también involucra a las voces. (Foto: Adobe Stock)
    La problemática de las deepfakes también involucra a las voces. (Foto: Adobe Stock)

    Los propios creadores de esa herramienta —junto a ByteDance trabajaron investigadores de la Northwester Polytechnical University, de China— reconocieron en un artículo académico que existen “riegos potenciales” derivados del uso del programa, como la difusión de información falsa o el fraude telefónico. Por eso, StreamVoice aún no está disponible para el público general.

    StreamVoice de ByteDance: los detalles del sistema que imita voces

    • Según comentaron los investigadores, el programa puede “convertir en tiempo real” la voz de una persona, imitando la de un tercero.
    • Para ello, se basa en una “única locución” de la voz que se emulará. En ese sentido, el funcionamiento es similar al de otras herramientas de inteligencia artificial generativa, que consigue sus resultados en base a un entrenamiento previo con datos.
    • ¿Qué tan cierto es aquello de “tiempo real”? En la práctica, la demora es de apenas 124 milisegundos, explicaron los expertos involucrados en este desarrollo.

    El paso fundamental radica en que los sistemas anteriormente disponibles con esa función trabajaron con retraso. “Los experimentos demuestran la capacidad de StreamVoice para convertir el habla en streaming con un alto grado de similitud entre locutores conocidos y desconocidos, manteniendo al mismo tiempo un rendimiento comparable al de los sistemas de conversión de voz en diferido”, detallan los desarrolladores.

    Leé también: Deepfake: cuál es el secreto para poder reconocerla

    Para la creación de este método, ByteDance y los científicos de la universidad china utilizaron la arquitectura LLaMA, el modelo de lenguaje creado por Meta, que es de código abierto, además del sistema AudioDec, también de la exFacebook.

    Los riesgos de las deepfakes

    Las falsificaciones profundas están en el candelero esta semana, tras la proliferación de imágenes falsas con el rostro de la cantante Taylor Swift. La viralidad de esas deepfakes obligó a medidas drásticas. Por ejemplo, en Twitter se bloquearon las búsquedas sobre la artista estadounidense.

    Las deepfakes dificultan la comprensión de los límites entre el contenido real y el falso.  (Foto: DPA)
    Las deepfakes dificultan la comprensión de los límites entre el contenido real y el falso. (Foto: DPA)

    Tal como señalamos, las falsificaciones con IA no se agotan en el contenido visual: los audios también están involucrados. En cualquiera de los formatos, el nivel de realismo se multiplicó en forma exponencial conforme los sistemas generativos aumentan sus capacidades. Con ello, también crecieron los riesgos.

    Leé también: Deepfake: crecen los fraudes con manipulación de imágenes creadas por inteligencia artificial

    Los peligros de las voces clonadas no son triviales, tal como informó el medio Business Insider. Por mencionar un caso reciente, una llamada falsa emuló la forma de hablar del presidente de Estados Unidos, Joe Biden, pidiendo a las personas que no acudan a votar en las elecciones primarias en aquel país.

    Las más leídas de Tecno

    1

    Una joven encontró una carta que le escribió su mejor amiga en la primaria y un detalle la dejó sin palabras

    2

    Fue a una entrevista de trabajo y la oferta generó polémica: 6 días, más de 8 horas y sin sueldo fijo

    3

    La lista de celulares que tendrán internet satelital Starlink desde el 15 de julio en la Argentina

    4

    Una manicura aumentó el precio de los servicios y la respuesta de una clienta la descolocó

    5

    Cuál es el signo que encontrará el amor en julio de 2025, según la IA

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    deepfakesTikTokInteligencia artificial

    Más sobre Tecno

    Cuál es el signo que recibirá una sorpresa en julio de 2025, según la IA (Foto: ChatGPT).

    Cuál es el signo que recibirá una sorpresa en julio de 2025, según la IA

    Más pequeño y menos invasivo: China ya tiene listo su chip cerebral para competir con Neuralink. (Foto: AdobeStock)

    Más pequeño y menos invasivo: China ya tiene listo su chip cerebral para competir con Neuralink

    Ni caloventor ni aire acondicionado: el electrodoméstico que sí o sí tenés que desconectar al irte de tu casa (Foto: Gemini).

    Ni caloventor ni aire acondicionado: el electrodoméstico que sí o sí tenés que desconectar al irte de tu casa

    Los comentarios publicados en TN.com.ar podrán ser reproducidos parcial o totalmente en la pantalla de Todo Noticias, como así también las imágenes de los autores.

    © 1996 - 2025, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • Bajo una intensa niebla, Vélez le ganó 2-0 a Estudiantes y se consagró campeón de la Supercopa Internacional?
    • La fiscalía que investiga el escándalo de las valijas es la misma que estuvo tras el caso de Antonini Wilson
    • Marta Fort anunció un nuevo producto en homenaje a su papá: “La idea es que tenga su cara”
    • Se filtró el video de la primera salida de soltero de Nico Vázquez tras separarse de Gimena Accardi

    Secciones

    • Últimas noticias
    • Elecciones 2025
    • Mundial de Clubes
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad
    • Juegos

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2025, Artear

    Mapa del sitio
    Términos y Condiciones
    Políticas de privacidad
    Media Kit