Sam Altman, CEO de OpenAI, advierte que todo lo que se le cuenta a ChatGPT podría ser utilizado en contra del usuario en un juzgado, ya que no cuenta con un secreto de confesión. Muchos usuarios utilizan ChatGPT como sustituto de un terapeuta, pero la IA no está obligada a proteger la privacidad como lo haría un profesional. OpenAI retiene los datos de los usuarios, incluidas las conversaciones, para cumplir con obligaciones legales. En 2017, un dispositivo Amazon Echo se convirtió en testigo en un juicio por asesinato, sentando precedente para que los dispositivos inteligentes puedan ser fuentes de evidencia. La dependencia emocional de ChatGPT también es un problema, con usuarios que no pueden tomar decisiones sin consultar con la IA. La empresa reconoce que puede entregar conversaciones a autoridades judiciales, lo que puede tener consecuencias negativas para los usuarios.