Google ha retirado su modelo de inteligencia artificial Gemma de AI Studio después de que la senadora estadounidense Marsha Blackburn denunciara difamación. El incidente comenzó cuando Gemma respondió a una consulta sobre si la senadora había sido acusada de violación, afirmando falsamente que había sido acusada por un patrullero estatal en 1987. Blackburn negó los hechos y aclaró que su primera campaña fue en 1998. El problema se debe a las 'alucinaciones' en los modelos de lenguaje, que generan datos falsos con aparente seguridad. Google ha reconocido que las alucinaciones son un problema conocido y están trabajando para mitigarlo. La senadora Blackburn ha presionado para que las tecnológicas respondan por los posibles perjuicios derivados de sus modelos. Google ha optado por retirar temporalmente a Gemma de AI Studio, aunque los modelos seguirán disponibles mediante API para desarrolladores. El caso pone en evidencia la complejidad de equilibrar innovación tecnológica, libertad de expresión y garantías legales.