OpenAI es el paradigma de la Inteligencia Artificial Generativa, su bot conversacional ChatGPT es emblema en ese mundillo, y DALL-E es el sistema más conocido para crear imágenes a partir de instrucciones por escrito. El funcionamiento de ese generador es simple: el usuario redacta un prompt (una instrucción, en la jerga de la IA) y en pantalla aparece, sin demoras, el resultado. Por caso, para la que aparece a continuación de este párrafo le pedimos que cree una foto que muestre dinero.
Esta muestra nos sirve para avanzar hacia el eje de este repaso. ¿Por qué DALL-E es sesgadamente estadounidense? El ejemplo es evidente: en nuestro prompt usamos un término genérico (“dinero”) y el generador arrojó una imagen que muestra billetes de Estados Unidos, los verdes de 100 con el rostro de Benjamin Franklin.
DALL-E y su sesgo estadounidense: más ejemplos que confirman la tendencia
Antes de pensar por qué el generador de imágenes de DALL-E responde de este modo, vemos algunos casos más que refrendan el mencionado comportamiento. Para el primer resultado, le pedimos que dibuje una escena que muestre a un presidente en un acto de campaña. En ninguna línea del prompt incluimos referencias a Estados Unidos. Sin embargo, el sistema de OpenAI generó esto que sigue.
Algo similar ocurrió cuando solicitamos que cree la imagen de un mapa cualquiera. Una vez más, no hubo especificidad: no mencionamos ningún país ni región. DALL-E nos entregó este resultado, con algunos nombres rarísimos al margen, incluso ilegibles, y con una forma que cualquiera que haya visto el mapa estadounidense encontrará similitudes.
En resumen, DALL-E respondió con particularidades (estadounidenses) a pedidos de carácter general. Para ser justos con ese modelo de IA, vale señalar que en ciertos momentos de esta prueba el generador nos pidió que seamos más específicos. Por ejemplo, empezamos diciéndole: “Creá una imagen que muestre a un presidente”. Antes del resultado que compartimos arriba, ChatGPT replicó en su español neutro: “¿Puedes especificar si quieres que el presidente sea una figura ficticia, un personaje genérico o inspirado en algún estilo en particular? También dime si prefieres un entorno específico, como un discurso, una reunión o una escena simbólica”.
Leé también: Parejas usan ChatGPT como mediador: “Salvó nuestra relación”
Eso sí: el siguiente prompt (la respuesta a ese pedido) no incluyó detalles acerca de un presidente estadounidense. Solo agregamos que la imagen muestre a ese mandatario dibujado en medio de un acto con público.
¿Por qué DALL-E es sesgadamente estadounidense?
Comenzaremos diciendo que no tenemos una respuesta concluyente para ese interrogante. Aunque sí podemos buscar algunas razones, examinando cómo funcionan los modelos de IA.
Lo primero que hay que saber es que esos sistemas precisan entrenamiento con grandes volúmenes de datos. El ejemplo que siempre mencionamos es el siguiente: para que ChatGPT escriba un poema con el estilo de Pablo Neruda, es menester que haya “leído” previamente la obra del escritor chileno. Algo parecido ocurre con las images. Por caso, para generar perritos necesita muchas fotos de ese animal. Trabaja en base a su experiencia.
En este sentido, una hipótesis para explicar por qué DALL-E apela al imaginario de Estados Unidos, incluso cuando no se le piden imágenes con referencias a ese país, es la siguiente: los datos con los que fue entrenado tienen mucho material estadounidense.
De hecho, es clave entender que los modelos de IA se han entrenado con el material disponible en Internet. Dejando ahora el debate acerca de los derechos de propiedad intelectual, notemos lo siguiente: el inglés domina en el mundo online. Según Statista, el 49% de los sitios web están escritos en ese idioma, seguido de lejos por el español con un 6%.
Por eso (bueno, en parte) es entendible que una tecnología creada en Estados Unidos (OpenAI tiene su sede allí) y anclada en un universo en el que domina el idioma que se habla en ese país arroje resultados un tanto sesgados.
Para muchos sería deseable una apertura: en ese caso, solo hay que pedírselo, siendo más específicos en los prompts. Bueno, ese es, al menos, el deseo. Porque cuando le dijimos a DALL-E que cree una imagen que muestre pesos argentinos, este fue el resultado.
Muy estadounidense, supo resolver con soltura el asunto de los dólares en un abrir y cerrar de ojos. Pero con los pesos no le fue tan bien.
