Los nuevos modelos de OpenAI son más inteligentes… pero también se inventan más cosas
Los nuevos modelos de OpenAI, o3 y o4-mini, son más avanzados en tareas como la programación y las matemáticas, pero cometen más errores al inventarse información, un fenómeno conocido como alucinaciones en IA. En un benchmark llamado PersonQA, el modelo o3 alucinó en el 33% de los casos, mientras que el modelo o4-mini alcanzó un 48% de alucinaciones. La causa de esto no está clara, pero se cree que el tipo de aprendizaje por refuerzo utilizado en estos modelos podría estar amplificando ciertos errores. La industria está trabajando en soluciones, como integrar los modelos con capacidades de búsqueda web, para mejorar la precisión y reducir las alucinaciones.
...es como un adolescente brillante que aún tiene mucho que aprender: promete mucho, pero a veces se inventa cosas. Aunque es interesante ver cómo los nuevos modelos de OpenAI están avanzando en tareas complejas, es preocupante ver cómo también están aumentando las alucinaciones. Esperemos que la industria pueda encontrar soluciones para mejorar la precisión y reducir las alucinaciones, porque de lo contrario, podríamos tener un problema en nuestras manos... o en nuestras máquinas.
