Investigadores enseñan a modelos de IA a reconocer su propia incertidumbre
Un nuevo método de entrenamiento, llamado RLCR, mejora la confiabilidad de las estimaciones de confianza en modelos de inteligencia artificial. Desarrollado por investigadores del MIT, este enfoque permite a los modelos expresar su incertidumbre al generar respuestas y puntajes de confianza, reduciendo el error de calibración hasta en un 90% sin sacrificar la precisión. Esto aborda un problema significativo en la sobreconfianza de los modelos de razonamiento.
