El desarrollador Boyd Kane advierte que tratar a la IA como software tradicional es un error. La IA no sigue reglas explícitas, sino patrones entrenados con datos. Un modelo de lenguaje como ChatGPT o Claude opera con una red de pesos numéricos que reflejan correlaciones estadísticas entre millones de ejemplos. Los errores en la IA no provienen del código, sino de los datos. Un conjunto de datos como FineWeb contiene 11 billones de palabras, lo que hace imposible encontrar la causa de un error. Reentrenar un modelo no garantiza que el fallo haya desaparecido. La IA es probabilística y sensible a matices, lo que hace imposible garantizar comportamientos estables en todos los contextos. Kane destaca que los expertos en IA dan por hecho que la diferencia entre la IA y el software tradicional es obvia, pero para el público general, la IA sigue siendo un 'software avanzado' más.