¿Alguna vez has notado que los chatbots de inteligencia artificial responden con una seguridad que hasta da envidia? Pues resulta que esa confianza podría ser su mayor debilidad. Un estudio de la Universidad Carnegie Mellon acaba de demostrar que los chatbots más populares tienen un problema serio de autoestima… pero hacia arriba.

Los investigadores compararon la autoconfianza de humanos con la de cuatro grandes modelos de IA: ChatGPT, Bard/Gemini, Sonnet y Haiku. Los pusieron a prueba con preguntas de cultura general, predicciones deportivas y hasta juegos de dibujo estilo Pictionary. El resultado fue revelador.

Tanto humanos como máquinas tienden a sobrestimar su rendimiento, pero aquí viene la diferencia clave: cuando los humanos se equivocan, aprenden de sus errores y ajustan sus expectativas. Los chatbots, por el contrario, no solo mantienen su exceso de confianza, sino que en algunos casos se vuelven aún más seguros de sí mismos después de fallar.

El ejemplo más extremo fue Gemini, que solo logró identificar correctamente 1 de cada 20 imágenes, pero estimó que había acertado más de 14. Es como ese amigo que dice ser buenísimo jugando billar pero no mete ni una bola, como comentó uno de los investigadores.

Esta sobreconfianza no es solo un problema técnico, es un riesgo real. Cuando un chatbot responde con seguridad, tendemos a asumir que tiene razón, incluso cuando está completamente equivocado. A diferencia de los humanos, que damos pistas no verbales cuando dudamos, las máquinas no muestran señales claras sobre si realmente saben de lo que hablan.

La metacognición, esa capacidad de ser consciente de nuestros propios procesos mentales, sigue siendo territorio exclusivamente humano. Los chatbots pueden procesar información a velocidades increíbles, pero no pueden reflexionar sobre sus propias limitaciones.

¿La moraleja? La próxima vez que un chatbot te responda con total seguridad, tómalo con pinzas. Pregúntale explícitamente qué tan seguro está de su respuesta, y siempre contrasta la información importante con otras fuentes. La IA es poderosa, pero aún no ha aprendido la sabiduría de la duda.