Singularidad tecnológica

Hipótesis según la cual el desarrollo tecnológico, impulsado por máquinas capaces de mejorar su propio diseño, llegará a un punto a partir del cual su ritmo y sus consecuencias escapan a la predicción humana. Es una conjetura sobre el futuro, no un fenómeno observado, y no hay acuerdo sobre si ocurrirá ni cuándo. No debe confundirse con la singularidad gravitacional de la física, de la que toma la imagen: un punto donde los modelos dejan de dar respuestas.

Origen

Stanisław Ulam recordó en 1958 una conversación con John von Neumann sobre un progreso tecnológico cada vez más rápido, que parecía acercarse a una “singularidad esencial” en la historia de la especie, más allá de la cual los asuntos humanos, tal como se conocían, no podrían continuar. En 1965, el estadístico I. J. Good, que había trabajado con Alan Turing en Bletchley Park, describió la explosión de inteligencia: una máquina más inteligente que cualquier persona podría diseñar máquinas mejores que ella, y estas a su vez otras mejores. Good concluyó que esa primera máquina sería el último invento que la humanidad necesitaría hacer, con una condición: que fuera lo bastante dócil para explicarnos cómo controlarla.

El escritor y matemático Vernor Vinge popularizó el término en 1983 y, en una ponencia de 1993, situó la llegada de una inteligencia sobrehumana entre 2005 y 2030. Ray Kurzweil, en The Singularity Is Near (2005), la fechó en 2045, y mantuvo esa fecha en The Singularity Is Nearer (2024).

Tres ideas bajo un mismo nombre

Eliezer Yudkowsky (2007) distinguió tres tesis que suelen mezclarse:

  • Cambio acelerado. Las tendencias tecnológicas crecen de forma exponencial y pueden extrapolarse (Kurzweil).
  • Horizonte de sucesos. Una inteligencia superior a la humana volvería el futuro impredecible para nosotros (Vinge).
  • Explosión de inteligencia. La automejora recursiva produce un salto rápido de capacidad (Good).

Son compatibles en parte, pero hacen predicciones distintas. El filósofo David Chalmers (2010) analizó la tercera como argumento: qué premisas exige y qué obstáculos, técnicos o voluntarios, podrían frenarla.

Objeciones

  • Curvas en S. Theodore Modis (2012) sostiene que muchas tendencias que parecen exponenciales son el tramo inicial de una curva logística, que se frena al acercarse a un límite. Kurzweil responde que el progreso sería una sucesión de curvas en S, en la que cada paradigma agotado da paso al siguiente.
  • Freno de complejidad. Paul Allen y Mark Greaves (2011) argumentaron que cuanto más se entiende la inteligencia, más difícil se vuelve cada avance.

Opinión de los investigadores

En una encuesta a autores de las conferencias NIPS e ICML de 2015 (Grace et al., 2018), el 29 % consideró probable o muy probable el argumento de la explosión de inteligencia, el 21 % le dio igual probabilidad que a su negación y el 50 % lo juzgó improbable o muy improbable.

Conceptos vecinos

Fuentes

Retroenlaces

Conexiones

Conexiones