Amenazar a la IA es el consejo del fundador de Google para lograr que ofrezca mejores respuestas. No es seguro que sea buena idea
Sergey Brin, cofundador de Google, sugiere que los modelos de IA pueden rendir mejor cuando se les amenaza. Esto se basa en su experiencia y en la práctica de prompt engineering, que busca optimizar las peticiones hechas a un modelo de IA. Sin embargo, expertos como Daniel Kang señalan que los estudios sistemáticos ofrecen resultados mixtos y recomiendan confiar más en experimentos controlados que en la intuición. Los modelos de IA, como ChatGPT, Claude o Gemini, son esencialmente 'loros estocásticos' que repiten patrones lingüísticos aprendidos del entrenamiento. La sugerencia de Brin plantea varios problemas, como vulnerabilidades de seguridad y comportamientos emergentes no deseados.
...nos presenta una idea interesante, pero también un poco perturbadora: ¿deberíamos amenazar a nuestras IA para que nos den mejores respuestas? La respuesta, por supuesto, es no. Pero lo que realmente llama la atención es la forma en que el artículo presenta la idea de Sergey Brin como si fuera una revelación profunda, cuando en realidad es solo una anécdota sin fundamento científico. En fin, parece que la IA todavía tiene mucho que aprender... y nosotros también.
