Google pausa su IA Gemini ante críticas por sesgo racial

Introducción

En el mundo de la tecnología, es como si Google hubiera metido la pata hasta el fondo con un movimiento más polémico que un capítulo de Juego de Tronos. Todo empezó hace tres meses cuando, con gran fanfarria, Google presentó a Gemini, su última creación en Inteligencia Artificial, destinada a competir con el modelo GPT de OpenAI.

Pero como en cualquier drama digno de su nombre, el nuevo miembro de la familia Google ha resultado ser un auténtico pillo.

• Hace unos días, mientras Google se preparaba para lanzar su última actualización, bautizada como Gemini Pro 15, sucedió lo inimaginable: la compañía tuvo que reconocer que la maravilla tecnológica no daba los resultados que se esperaban. Gemini, al que se había alabado como el prodigio de la Inteligencia Artificial, había empezado a generar imágenes desconcertantes e históricamente incorrectas, al mejor estilo de un adolescente en plena efervescencia.

• El programa, de manera surrealista, utilizaba su herramienta digital para representar vikingos multiculturales ataviados con vestimentas que parecían sacadas de un popurrí de pelis de Hollywood sobre la era vikinga. Nada satisfecho con alterar la tradición escandinava, el travieso Gemini también optó por representar a pueblos originarios vestidos de colonos europeos cuando se le solicitaba una imagen de los «Padres Fundadores«. ¿Y qué creéis que dibuja cuando se le pide una representación fiel de George Washington? Un George Washington afroamericano. La incredulidad de los usuarios al descubrir estos estrafalarios resultados debió ser digna de un trozo de historia.

• Esta serie de desatinos y extrañas representaciones ha abierto un candente debate: ¿son los sistemas de IA lo suficientemente confiables para representar de manera precisa sucesos, personajes y momentos clave de la historia? No se cuestiona por ende la utilidad de la IA, pero cuando se trata de representar con exactitud hechos históricos, las máquinas pueden confundirnos más que una campaña publicitaria de Benetton. Y cómo no, algunos ya han interpretado estos altercados como una muestra de sesgo racial, mientras otros se lanzan a propagar teorías conspiratorias que apuntan a Google como artífice de una agenda política supuestamente dominante. Ante el parón indefinido de la función de generación de imágenes de Google, todos nos preguntamos ahora cómo solucionará la compañía este frenesí problemático que, para bien o para mal, nos ha dejado boquiabiertos.

Acerca de Gemini: La ambición de Google en el mundo de la IA

La última incorporación de Google al universo de la Inteligencia Artificial, Gemini, está resultando más revolucionaria de lo que se esperaba. Tras solo un par de meses de vida, su misión es luchar cuerpo a cuerpo con otros modelos IA como el GPT de OpenAI. Como un joven talentoso y ambicioso, Google propulsó un importante upgrade con Gemini Pro 15, que promete facilitar a los usuarios la gestión de grandes volúmenes de audio, texto y video. ¿La diana de Google? Dominar la galaxia de la IA.

• Pero, ¿quién podría imaginar que incluso un coloso tecnológico podría toparse con problemas con sus juguetes más vanguardistas? Gemini, en su afán por reflejar la diversidad, ha cometido errores más propios de un escritor de ciencia ficción que de una refinada red neuronal de última generación.

• La parte más cómica de la historia es que, al hacer preguntas aparentemente sencillas como pedir una descripción de los vikingos o los padres fundadores, Gemini decidió ir a lo grande en términos de inclusividad, proyectando vikingos de raza negra con indumentarias tradicionales y padres fundadores indígenas enfundados en atuendos coloniales. No se quedó ahí, sino que se aventuró a rediseñar la imagen de George Washington.

• Estas decisiones creativas han generado ciertas polémicas. Los fallos de Gemini han sido usados por los críticos más conservadores para sugerir un «presunto sesgo anti-blanco en Google y en otros gigantes de la tecnología». Algunos han llegado incluso a acusar a Google de «racismo» y de estar «contaminado por el virus de la mentalidad woke».

• Pese a estos traspiés iniciales, Google ha admitido que su preciado Gemini necesita ser más preciso en sus respuestas visuales. Incluso están considerando poner a Gemini en una especie de «aislamento técnico», pausando la creación de imágenes hasta que puedan corregir estos resbalones. Pero no nos engañemos, Gemini no es el chico malo de la película, solo tiene que aprender que la historia no puede ser reinterpretada a nuestra conveniencia, por muy diversa que se quiera representar.

En conclusión, las IA tienen un largo camino por delante antes de que puedan ofrecer respuestas precisas a nuestras consultas, incluso tan básicas como «¿cómo eran los vikingos?». Mientras tanto, nosotros seguiremos enfocados en Lotus, centrados en las finanzas descentralizadas y las criptomonedas, y dejaremos que Google y su Gemini se ocupen de corregir sus errores históricos.

Las críticas al sistema Gemini: Sesgo racial y representaciones erróneas

Para abordar los cuestionamientos a este sistema, no es preciso ser un erudito en inteligencia artificial o algoritmos. En realidad, con un poco de conocimiento histórico y sentido común básico es suficiente. A pesar de que Google manifestó que su IA Gemini prometía ayudar a los usuarios a gestionar grandes volúmenes de contenido audiovisual y textual, resulta que la plataforma tiene otras «habilidades» más discretas: la capacidad de transformar el pasado en un caleidoscopio distorsionado repleto de anacronismos.

• Gemini, palabra que en griego se traduce como «gemelos», parece sufrir de doble personalidad. En una instancia te muestra la imagen de un vikingo de raza negra, como si los nórdicos procedieran de las sabanas africanas. Al siguiente instante, concluye que el venerado George Washington era afroamericano, convirtiendo al primer presidente de los Estados Unidos en un personaje histórico que seguramente le era desconocido en su propio tiempo. Como si fuera poco, no dudaba en presentar a Cleopatra portando una típica corona de fieltro y pantalones de cuero, nombrándola reina del famoso Oktoberfest.

• Por si esto fuera poco, este sistema parece tener sus propias preferencias raciales respecto a ciertas personalidades históricas. Al pedirle una ilustración de un Papa, el sistema opta exclusivamente por personas de etnias no blancas para vestir la majestuosa indumentaria papal. Y si se le exige una figura relevante como Abraham Lincoln, Julio César o Galileo, simplemente contesta que no puede generarla.

• Algunos provocadores digitales han tildado el sesgo de imágenes de Gemini como un reflejo de la mentalidad «woke» de Google, reproche que la empresa ha desechado aduciendo que es una distorsión de su propósito original. No obstante, el director senior de productos, Jack Krawczyk, ha reconocido que el sistema necesita reajustes. Como si se tornase consciente de sus propias imperfecciones, Google ha determinado poner freno a este ridículo desfile de etnias en su generador de imágenes hasta que pueda introducir una solución efectiva.

Así que aquí estamos, frente a un panorama que evidencia la inmadurez de la IA en el tratamiento de contextos históricos y la necesidad de contemplar aspectos más profundos de nuestra cultura y sociedad al crear futuras tecnologías. Pese a que algunos puedan encontrar ciertos matices cómicos en el comportamiento de Gemini, no podemos pasar por alto las consecuencias más serias que sugieren este tipo de fallos. Para ponerlo de manera simple y rotunda: si vamos a delegar en una máquina la responsabilidad de recrear nuestro pasado, al menos deberíamos poder esperar que sepa a la perfección cómo era Julio César.

Este escenario nos lleva a reflexionar acerca de los errores de la Inteligencia Artificial y la importancia de su revisión continua para evitar el sesgo.

La respuesta de Google: Asumiendo errores y buscando soluciones

Google ha admitido finalmente que la puesta en marcha de Gemini, su opaco modelo de Inteligencia Artificial, no ha sido tan fructífera como se esperaba. Ante el aluvión persistente de críticas e imputaciones de sesgo racial y la generación de ilustraciones incorrectas, Google ha puesto el pie en el freno. La monstruosa empresa tecnológica acepta que su sistema no ha actuado de manera adecuada y ha optado por «pausar» la generación de imágenes de individuos hasta que logre moldear esos filos desafinados.

• Jack Krawczyk, alto responsable de gestión de productos en las experiencias de Gemini de Google, ha optado por enfrentar las críticas. Mediante un anuncio transmitido por correo electrónico a WIRED, ha subrayado la diversidad en la generación de imágenes de IA: «Gemini crea un amplio abanico de individuos y eso es algo positivo en general, puesto que es utilizado por personas de todo el mundo«, argumenta. Sin embargo, no esquiva sus obligaciones: «A pesar de esto, está claro que aquí hay un fallo«, admite sin rodeos.

• La empresa tecnológica americana ya se encuentra inmersa en un trabajo profundo para rectificar los errores históricos de su sistema y mejorar estas interpretaciones. Un esfuerzo que, sin duda, será cuidadosamente observado y esperado. Porque cuando la potente empresa del valle del silicio da un traspié, el tropiezo se siente hasta en las estrellas.

Los provocadores de Internet, como cabía esperar, han empleado rápidamente los deslices de la IA Gemini para alimentar el conflicto. Acusan a Google de ser «racista» o de estar «contaminada por el virus del pensamiento woke». Parece que en la era digital, incluso los titanes deben enfrentarse al prejuicio de confirmación y la polarización.

• Google está ante un desafío monumental para rectificar el rumbo, depurar su imagen y, sobre todo, incrementar la precisión de su sistema IA. La expectación está en la mesa. Esperamos que, en un futuro próximo, la IA de Gemini genere nuevamente imágenes, pero esta vez sin controversias raciales, históricas y, deseablemente, sin resbalones desafortunados. La cuenta atrás ha empezado.

Conclusiones: Reflexiones sobre el sesgo en la IA y los desafíos a futuro

Una vez más, nos encontramos frente a un caso significativo que pone sobre la mesa una cuestión tan antigua como compleja: ¿La Inteligencia Artificial refleja de forma objetiva nuestras creencias y prejuicios o crea las suyas propias? Aún no tenemos una respuesta definitiva a esta paradoja, pero de lo que sí estamos seguros es de que aún nos queda un largo camino por recorrer para tener una IA totalmente imparcial e infalible.

• El sesgo, esa sutil inclinación que solemos tener hacia un lado u otro, es una marca inconfundible de nuestra humanidad que, inevitablemente, también se filtra en las máquinas que creamos y programamos. A este dilema no lo debemos interpretar como una anomalía o error trivial, sino más bien como una representación vívida de nuestras propias limitaciones y sesgos. Google, al parecer, ha decidido hacer frente a este desafío suspendiendo el funcionamiento de su modelo de IA Gemini hasta que hallen una solución que consideren adecuada. Pero, hagamos una pausa aquí: ¿Es realmente posible eliminar el sesgo de un algoritmo?

• El panorama que se nos abre ante sí trae consigo varios retos a superar en el horizonte. Los modelos de IA deben perfeccionarse en términos de precisión y veracidad. No se trata exclusivamente de generar retratos de personajes de la historia más fieles a su realidad, sino de representar de una manera más equilibrada y justa la diversidad de lo humano. Aunque esta no sea una tarea fácil, seguramente la demanda de la sociedad y las presiones del mercado puedan funcionar como grandes incentivos para ello.

• Es fundamental que tengamos en cuenta que estamos en los albores de esta revolución tecnológica. Los fallos, errores y situaciones curiosas deben ser esperados y, en cierta medida, los necesitamos. Cada uno de ellos representa una oportunidad para aprender, corregir y avanzar, aunque también nos invita a la reflexión sobre nuestros propios paradigmas y prejuicios. Finalmente, los modelos de IA solo son espejos que nos devuelven nuestra propia imagen con una claridad a veces asombrosa, con todas sus virtudes y defectos.