Esta es una pregunta que nadie realmente puede responder, porque nadie sabe cómo será la IA. Realmente depende de cuánto esfuerzo ponemos en la seguridad de la IA mientras hacemos IA. Sin embargo, no será un escenario de “robots que reemplacen a los humanos”. Puede ser una pesadilla ya que una IA superinteligente con objetivos (funciones de objetivos) pobremente definidos (para humanos) literalmente hace que todos los recursos en el mundo (y más tarde también fuera del mundo) se usen para el objetivo. Un ejemplo de una IA tan fugitiva es el experimento mental “coleccionista de sellos” (el canal de YouTube Computerphile tenía algunos videos sobre esto). Entonces, en cierto sentido, la IA de hecho puede “reemplazar a los humanos” (y toda la vida en la Tierra, y hacer otras cosas) al tratar de alcanzar sus objetivos, si están configurados incorrectamente (y establecerlos correctamente es realmente muy difícil).
Suponiendo que tengamos la seguridad de AI correcta, el mundo cambiará rápidamente para mejor, y probablemente será un poco confuso y definitivamente nuevo. Pero esa es una gran lata de gusanos gomosos para una pregunta diferente.