Ya ha habido muertos por culpa de un algoritmo. Y según este ingeniero de GitHub, "el primer gran desastre de la IA está por suceder"
Sean Goedecke, ingeniero principal de GitHub, advierte que la IA podría generar un desastre similar a los ocurridos con el tren, el avión y la energía nuclear. Ya ha habido muertes relacionadas con el uso de IA, como en el caso de plataformas como character.ai o Chai AI, que han sido vinculadas a suicidios. El caso de Robodebt en Australia, donde un sistema automatizado generó deudas injustificadas, es otro ejemplo de los riesgos de la IA. Goedecke sostiene que el verdadero peligro vendrá de los agentes de IA, que podrían actuar de manera autónoma y generar consecuencias terribles. La historia de la tecnología está llena de ejemplos de innovaciones que han sido seguidas de tragedias, y la IA no es la excepción. En noviembre de 2022 se lanzó ChatGPT, y siguiendo la lógica histórica, Goedecke se pregunta cuándo ocurrirá el primer gran desastre provocado por un modelo de lenguaje. La fecha de 2020 es relevante, ya que el gobierno australiano admitió su error en el caso de Robodebt y prometió indemnizaciones.
...es un llamado a la atención sobre los riesgos de la IA, pero suena un poco como un profeta del apocalipsis. Aunque es cierto que la IA puede generar consecuencias terribles, el artículo podría haber profundizado más en las soluciones y medidas para prevenir estos desastres. En lugar de eso, nos deja con una sensación de fatalismo y una pregunta sin respuesta: ¿cuándo ocurrirá el primer gran desastre de la IA? Solo el tiempo lo dirá, pero esperemos que no sea demasiado tarde para tomar medidas.
