Usuarios de ChatGPT quedaron desconcertados después de que el chatbot comenzara a generar respuestas completamente absurdas el martes por la noche, o al menos, más absurdas de lo habitual. El problema fue tan grave que obligó a OpenAI a comenzar a investigar las «respuestas inesperadas de ChatGPT».
Ilustración creada con Image Creator de Designer
Las respuestas iban desde argumentos incorrectos, hasta simplemente repetir la misma frase una y otra vez. Aunque las respuestas variaban, el problema parecía persistir con la mayoría de los usuarios durante toda la noche. La falla finalmente fue resuelta por OpenAI el miércoles por la mañana, según la página de estado de la empresa.
El episodio provocó mucha confusión, bromas e incluso miedo entre los usuarios. Algunos especularon que el sistema de aprendizaje había colapsado por completo, mientras que otros se preguntaban si esto significaba que el chatbot se había vuelto consciente.
OpenAI ha permanecido previsiblemente en silencio sobre cuál fue exactamente el problema de ChatGPT
Sin embargo, la falla es un gran ejemplo de cómo la tecnología emergente como la IA puede descomponerse rápidamente y fácilmente. Cuando eso sucede, no se trata solo de interrumpir el trabajo si dependes de ella para algo como la codificación o la escritura. También puede causar daños en el mundo real al producir respuestas sesgadas y dañinas.
A medida que los usuarios dependen cada vez más de sistemas de Inteligencia Artificial como ChatGPT para el trabajo y la vida, el potencial de daño se vuelve mucho más generalizado y elevado. Ilustra la importancia de tomar todo lo que se produce utilizando IA generativa con precaución. Estos modelos a menudo se equivocan, y a veces incluso se salen completamente de control.
