La empresa se enfrenta a acusaciones de racismo después de que usuarios notaran que la IA presentaba imágenes inexactas de personajes como vikingos, científicos del siglo XVII y soldados alemanes de la segunda guerra mundial.

La nueva versión de la inteligencia artificial (IA) de Google, conocida como Gemini, ha generado controversia al ser acusada de sobrerrepresentar o distorsionar la diversidad étnica en figuras históricas. Diversos usuarios en redes sociales, especialmente en X, han denunciado la falta de precisión de la herramienta al momento de retratar distintos períodos y/o personajes.

En respuesta a las críticas, Google emitió un comunicado confirmando la suspensión del servicio de generación de imágenes de Gemini. El comunicado expresó: “Ya estamos trabajando para abordar problemas recientes con la función de generación de imágenes de Gemini. Mientras tanto, vamos a pausar la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada”.

La herramienta se había lanzado recién a inicios de febrero de este año.

Lee también...
 ChatGPT envió extraños y alarmantes mensajes en una especie de colapso Jueves 22 Febrero, 2024 | 16:51

Vikingos y solados nazi de raza negra

Según consignó el diario El País, Jack Krawczyk, un encargado de IA en Google, explicó en su cuenta de X que el diseño de la generación de imágenes busca reflejar la base de usuarios global de la empresa y abordar los sesgos de representación. Se comprometió a afinar la generación de imágenes para contextos históricos, reconociendo la complejidad de representar matices en estas situaciones.

Sin embargo, poco después se vio obligado a cerrar su cuenta en la red social debido a las recurrentes críticas.

“El programa de inteligencia artificial más nuevo de Google, llamado Google Gemini, muestra a una persona negra como un nazi de la Segunda Guerra Mundial. Este es un insulto totalmente racista hacia todos los negros de todo el mundo. La imagen no sólo muestra a un hombre negro como nazi, sino que también lo muestra con un uniforme de las SS. ¿Qué sigue para Google, los negros vestidos como miembros del KKK?”, denunció el usuario de X @MarkYandle.

“Puedes hacer que Google AI cree vikingos blancos si utilizas indicaciones específicas. De lo contrario, vikingo es igual a negro”, apuntó otro usuario.

“Según Gemini AI, una mujer de raza negra firmó la declaración de independencia de los Estados Unidos”, se burló otro usuario.

“Lol Gemini AI piensa que los guerreros griegos son negros y asiáticos”, indicó el usuario @TheOmeg55211733.

Elon Musk, en su crítica a Google, calificó la situación como “locamente racista y anti civilizadora” y anunció haber hablado con un ejecutivo de Google, quien aseguró tomará medidas inmediatas para corregir los sesgos de género y racial en Gemini.

La suspensión de este servicio evidencia los desafíos y responsabilidades que enfrentan las empresas tecnológicas al desarrollar y implementar IA, especialmente en temas tan sensibles como la representación histórica y étnica.