
Sean Goedecke, ingeniero principal de GitHub, advierte que la IA podría generar un desastre similar a los ocurridos con el tren, el avión y la energía nuclear. Ya ha habido muertes relacionadas con el uso de IA, como en el caso de plataformas como character.ai o Chai AI, que han sido vinculadas a suicidios. El caso de Robodebt en Australia, donde un sistema automatizado generó deudas injustificadas, es otro ejemplo de los riesgos de la IA. Goedecke sostiene que el verdadero peligro vendrá de los agentes de IA, que podrían actuar de manera autónoma y generar consecuencias terribles. La historia de la tecnología está llena de ejemplos de innovaciones que han sido seguidas de tragedias, y la IA no es la excepción. En noviembre de 2022 se lanzó ChatGPT, y siguiendo la lógica histórica, Goedecke se pregunta cuándo ocurrirá el primer gran desastre provocado por un modelo de lenguaje. La fecha de 2020 es relevante, ya que el gobierno australiano admitió su error en el caso de Robodebt y prometió indemnizaciones.