Errores incoherentes de ChatGPT: ¿Es la IA demasiado opaca?

Introducción a los errores incoherentes de ChatGPT

Hoy voy a narrarte una historia, pero no esperes encantamientos y bestias mágicas, esto va de tecnología y de cómo a veces sus certezas se tambalean. Imagina que preguntas a ChatGPT, esa inteligencia artificial que OpenAI recreó con tanto ingenio, «¿Qué es un ordenador?», esperando una respuesta precisa y bien definida. Pero en lugar de eso, lo que obtienes es un revoltijo de palabras que resulta confuso incluso para aquellos con amplia experiencia en descifrar enigmas.

• Lejos de hablar de procesadores o sistemas operativos, te responden con una frase enrevesada que empieza diciendo algo como «Es como si una web artística hiciese un buen trabajo para el país, un ratón científico, un dibujo triste y fácil que pocos comprenden».

• Sorprendente, ¿no crees?Pues bien, esta no es una obra de la fantasía, sino un suceso muy real y actual. Usuarios de todas partes del mundo han quedado perplejos al recibir respuestas sin lógica alguna por parte de una de las inteligencias artificiales más sofisticadas del planeta, hablamos de chatbot IA y sus respuestas incoherentes.

• Pero eso no es todo. También ha habido casos en los que la respuesta venía en otro idioma, a pesar de que la pregunta estaba claramente formulada en español. Te preguntas entonces: «¿Ha decidido ChatGPT, en sus ratos libres, convertirse en un profesor de idiomas?». Quizás esté bajo la influencia de la Torre de Babel, quién sabe.

• En los casos más extremos, las respuestas eran simplemente un revoltijo de palabras sin vinculación alguna, esparcidas aquí y allá, formando una «ensalada de palabras», como acertadamente algunos desconcertados usuarios las han descrito.

Imagina que vas a un restaurante y pides una ensalada César, pero el camarero, en lugar de eso, decide tirar ingredientes al azar en un bol.

• Gary Marcus, uno notable dentro del campo de la inteligencia artificial, refirió a este problema peculiar aunque preocupante en su blog al decir que «ChatGPT ha perdido el juicio».

• Es como si un pintor demente tomara un lienzo y comenzara a lanzar pintura al tuntún sin intención alguna de crear una imagen coherente. Y tú estás ahí, intentando dar algún sentido a ese caos abstracto de colores y texturas.

• Nosotros, los navegantes de Internet, esperamos ansiosos que OpenAI nos arroje alguna luz sobre qué demonios está sucediendo con su chatbot. Por ahora, en palabras de Gary Marcus: «Esperemos que sea un recordatorio. Que la inteligencia artificial desquiciada nos haga tomar consciencia de la importancia crucial de lograr una IA segura y predecible».

Y, ante todo, ojalá sepamos aprender de este incidente, porque si algo nos ha enseñado esta experiencia es que no todo en la IA es predecible. A veces, sin previo aviso, se coloca su sombrero de arlequín y decide dar respuestas que podrían ser el colofón de una obra de arte surrealista.

Los ‘desvaríos’ de ChatGPT

En el fascinante universo de la Inteligencia Artificial, de vez en cuando se producen situaciones conforme a las mínimas reglas de la lógica… por no llamarlas de modo más crudo. El foco de atención reciente ha sido OpenAI ChatGPT, que nos regaló un «estofado de términos» como contestación a cuestiones tan básicas como «¿Qué es un ordenador?».

• Para los que no tuvieron el honor de contemplarlo, visualicemos un sistema de arte web perfectamente pensado para una nación que, contra todo pronóstico, se transforma en un «roedor científico». Tómate un momento para asimilar este escenario. Añade a este delirio un componente de «ilustración sencilla de unos pocos entristecidos». Eso es solo un fragmento de su enmarañada respuesta a esa pregunta. ¿Empezamos a entender qué significa un «estofado de términos»?

• En esta línea de «delirios incompresibles», parte del público también tuvo la suerte de presenciar un ChatGPT multilingüe. Por supuesto, parece fascinante y uno podría pensar «¡Impresionante, tiene un don para los idiomas!». Pero no tan deprisa, no estaba programado así. Comenzó a contestar en otro idioma distinto al que se le había hablado, de forma espontánea, y sin duda dejando perplejo al que hacía la pregunta.

• Al hilo de estos episodios de charlatanería y un incomprensible periplo lingüístico, también tuvimos el privilegio de asistir a una variedad de contestaciones que no eran más que… bueno, un revoltijo de palabras sin sentido alguna. ¿Quizá estaba viviendo el ChatGPT su propia revolución poética? Eso es un enigma, ciertamente.

Pero lo que es evidente es que estos sucesos destacan que, a pesar del progreso en inteligencia artificial, aún estamos lejos de llegar a la perfección. O, al menos, de tener un chatbot que no padezca episodios de incoherencia que provocan tanto estupor como desconcierto. En este punto, OpenAI parece tomar la posición de «estamos en ello», confiamos en que estén dedicando todos sus esfuerzos en ello. Así que por el momento, nos toca esperar y ver si se reproducen estos delirios de ChatGPT.

Coaching financiero, inversión en criptomonedas, tecnología y finanzas, DeFi, finanzas descentralizadas: éstas son solo algunas de las muchas aplicaciones de la Inteligencia Artificial en el mundo de las finanzas hoy en día.

La reacción de OpenAI

En un escenario digno de la mejor narrativa de suspense, la compañía OpenAI ha admitido que la extraña conducta de su hijo prodigio, ChatGPT, ha aumentado la tensión en sus oficinas. Así es, amigos, en esta casa no escondemos nada y podríamos decir que estamos orgullosos de nuestra transparencia. A las 2340 UTC del fatídico 20 de febrero de 2024, lanzamos una declaración contundente e inquietante: «Estamos investigando informes de respuestas incoherentes de ChatGPT«, como resultado de una inexplicable revelación de este mimado proyecto.

• Hablando en serio, después de varias discusiones en el foro Reddit, donde los usuarios quedaban atónitos ante las respuestas incoherentes de ChatGPT, el comportamiento chatbot era inexplicable, como si estuviera bajo el influjo del sortilegio del despiste. Diálogos compuestos por una «sopa de palabras» y formas incoherentes surgían como respuestas, más apropiados para una reflexión filosófica surrealista que para clarificar dudas sobre algo tan tangible como una computadora.

• Y como un superheroe que llega a la escena del crimen en el momento adecuado, OpenAI entró en acción siete minutos después del primer aviso. Con la calma y la confianza de quien tiene todo bajo control, confirmó que el problema se había identificado y que ya estaban trabajando en su solución. A pesar de su intervención decisiva, no dieron ningún detalle sobre cuál fue la causa de esta mezcla de hilaridad y desconcierto, añadiendo así un aura de misterio a la historia.

• Desde entonces, la situación se ha estado vigilando de cerca, y no hace falta ser un lince para deducir que el café debe estar fluyendo en las oficinas de OpenAI. Afortunadamente, ChatGPT parece haber recuperado parte de su juicio, proporcionando respuestas bastante más precisas y coherent

Desde su posición de conocedor, Gary Marcus nos proporciona una brillante analogía, calificando a la IA generativa como la «alquimia de datos«. Pero también nos invita a reflexionar, añadiendo al panorama general una dosis necesaria de crítica constructiva acerca de la falta de garantías de fiabilidad y seguridad en estos sistemas. Parece que la trama de este thriller sigue en proceso y el desenlace todavía está por revelar. OpenAI, compañero, estamos esperando tu respuesta, no nos dejes en suspense.

Manténte al día y toma decisiones informadas con nuestra actualidad tecnológica y noticias OpenAI. En Ficoach, donde ofrecemos coaching financiero especializado, te ayudamos a comprender y a invertir en estas tecnologías IA. Recuerda, la inversión en criptomonedas y las finanzas descentralizadas son el futuro, ¡aprende con nosotros y lleva tus inversiones al próximo nivel!

La postura y advertencias de expertos en IA

Como conocido experto en los campos de la inteligencia artificial y la ciencia cognitiva, Gary Marcus no ha dejado pasar la oportunidad de aportar su visión sobre este peculiar algoritmo de sopa de letras, que ha sido motivo de análisis en su blog. Con su humor habitual y una ligera ironía, ha titulado su estudio «ChatGPT se ha vuelto loco», subrayando que esta circunstancia debería servirnos para reflexionar y, también, como «una advertencia».

• A Marcus le resultaban fascinantes las combinaciones palabras insólitas, al igual que a un niño le puede encantar su helado de vainilla con virutas de chocolate. Sin embargo, no pasó por alto el hecho de que esto pone de relieve una ausencia de garantías de seguridad y estabilidad en los sistemas de IA como ChatGPT. De hecho, llegó a calificar a la inteligencia artificial generativa como una forma de alquimia moderna, donde los datos se recopilan, se combinan y se busca obtener un resultado positivo.
• Es algo comparable a esperar que uniéndose ‘computadora’ con ‘ratón de ciencia’, surja un concepto útil y coherente… Tristemente, el experimento ha demostrado que la alquimia de OpenAI todavía necesita de algunos retoques.
• Marcus además ha tocado otro punto clave para el futuro de la inteligencia artificial. Ha instado a la adopción de tecnologías variadas, que resulten menos esotéricas y sean más maleables.

Parece querer decirnos que «No todo debe quedar en siluetas a lo caja negra». A raíz de este curioso percance, Marcus nos deja claro que el futuro de la inteligencia artificial debe enfocarse hacia la transparencia y el control, para prevenir que nuestras máquinas favoritas empiecen a soltarnos palabrería inentendible.

• Por otro lado, mientras aguardamos una aclaración más exhaustiva por parte de OpenAI acerca de por qué chatGPT decidió dar el salto al surrealismo literario, podemos seguir entreteniéndonos con los despropósitos del bot.
• Después de todo, ¿quién sabe? Podrían presagiar el arranque de una nueva tendencia artística, la denominada ‘ensalada de palabras’.

¿Qué sigue para OpenAI y ChatGPT?

La apasionante saga de las respuestas irrealizables de ChatGPT sigue manteniéndonos al borde del asiento. Pero en semejante relato de misterio, no podíamos esperar menos que un nuevo giro que lo hace aún más desquiciante.

• OpenAI, consciente del problema, ha prometido una solución. Sin embargo, a día de hoy, seguimos expectantes por una explicación más concreta. Estamos en medio de un suspense increíble, digno de la trama más compleja de Hollywood. ¿Será este enigma de ChatGPT ‘surrealista’, un experimento artístico de inteligencia artificial o simplemente una nueva encarnación del famoso cubo de Rubik, diseñado para frustrar al usuario?

• Pero a pesar de todo lo negativo, se puede apreciar una notable mejoría en varias respuestas. Cuando le preguntamos a ChatGPT «¿Qué es un ordenador?», respondió claramente, cosa que no había sucedido en un buen tiempo. No obstante, no nos ofreció ninguna explicación de por qué se expresaba con una lógica tan aleatoria antes.

• Ante este panorama, la pregunta que todos nos hacemos es ¿qué acciones tomará OpenAI para prevenir estos sucesos en el futuro? Lo más sensato sería pensar que estén realizando una revisión rigurosa y continua. Pero eso no pasa de ser una suposición, la organización no ha emitido ninguna información oficial aún.

• No sabemos si se llevarán a cabo cambios significativos en la tecnología de ChatGPT para evitar estos episodios de desorden lingüístico o si, simplemente, dedicarán mayor esfuerzo a la corrección de errores. Expertos como Gary Marcus, proponen una reflexión intensa sobre la alquimia de datos que sostiene estos sistemas de inteligencia artificial.

• En conclusión, el futuro de ChatGPT parece, por lo menos, desconocido. Pero la cuestión principal es que necesitamos comprender qué fue lo que desencadenó este caos para poder evitar su repetición. Precisamos de IA más transparentes y controlables. Necesitamos situarnos frente a lo que estamos lidiando con claridad. El ‘batiburrillo’ de palabras de ChatGPT nos recuerda el larguísimo camino que aun nos resta por recorrer.

• El espectáculo de ChatGPT continúa. Y mientras eso sucede, nosotros, osados espectadores, nos devoramos las uñas esperando un desenlace que, con suerte, nos aporte alguna certeza para poder navegar a través de este maremoto de incertidumbre que nos ha proporcionado la inteligencia artificial.

En el coaching financiero, es necesario estar al día de la actualidad tecnológica y noticias OpenAI, especialmente si estamos considerando la inversión en criptomonedas. La relación entre tecnología y finanzas es cada vez más estrecha, y tener un buen conocimiento de DeFi, o finanzas descentralizadas, es crucial para cualquier inversor moderno.