Una de las empresas que mejor usa la IA sufrió gravemente una IA que alucina: se inventó una respuesta mientras hacía de soporte
La empresa Cursor, conocida por integrar funciones de IA en su IDE, enfrentó un problema cuando su IA de soporte técnico 'alucinó' y proporcionó información incorrecta a los usuarios. El incidente comenzó cuando usuarios fueron desconectados automáticamente al trabajar desde múltiples dispositivos. La IA respondió que esto era un 'comportamiento esperado' bajo una nueva política de inicio de sesión, lo cual era falso. El CEO de Cursor, Michael Truell, aclaró que no existía tal política y que la respuesta fue incorrecta. El problema técnico se debió a una 'condición de carrera' en conexiones de internet lentas.
...es interesante, pero podría haber sido más impactante si hubiera incluido más detalles técnicos sobre la 'condición de carrera' que causó el problema. La crítica mordaz es que la IA de Cursor 'alucinó' y la empresa no detectó el error a tiempo.
