Google suspende la capacidad de Gemini de generar imágenes de personas

Google informó que impedirá temporalmente que su chatbot de inteligencia artificial, Gemini, genere imágenes de personas, un día después de disculparse por las “inexactitudes” en las representaciones históricas que estaba creando.

Los usuarios de Gemini publicaron esta semana capturas de pantalla en las redes sociales de escenas históricamente dominadas por blancos con personajes racialmente diversos que, según dicen, generó, lo que llevó a los críticos a plantear preguntas sobre si la compañía está corrigiendo excesivamente el riesgo de sesgo racial en su modelo de IA.

«Ya estamos trabajando para abordar problemas recientes con la función de generación de imágenes de Gemini», dijo Google en una publicación en la plataforma de redes sociales X. «Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y volveremos a hacerlo». lanzará una versión mejorada pronto”.

Estudios anteriores han demostrado que los generadores de imágenes de IA pueden amplificar los estereotipos raciales y de género que se encuentran en sus datos de entrenamiento, y sin filtros es más probable que muestren hombres de piel más clara cuando se les pide que generen una persona en diversos contextos.