El error más básico que hace la Singularidad es que cree que el progreso tecnológico es algo separado de la sociedad. Hicimos muchos progresos bajo la amenaza inmanente de genocidio (es decir, las guerras mundiales) y no mucho desde entonces.
El segundo error es la falacia antrópica que subyace en gran parte del trabajo de AI. Una “red neuronal” tiene poco o nada que ver con lo que ocurre en el cerebro humano. Es una herramienta matemática interesante y, como lo ha demostrado Google Photos, incluso puede hacer algunos trucos geniales. En realidad, simular un cerebro humano, por otro lado, puede ser computacionalmente imposible, incluso con todos los recursos de este planeta. La reciente revolución en la búsqueda ha sido creada por sistemas más parecidos a la votación distribuida que cualquier mímica de la inteligencia humana. Es posible imaginar que la democracia se apodere del mundo, pero un poco menos aterradora.
Por otro lado, si reemplaza la palabra AI con el Leviatán de Hobbes, y cambia “singularidad” a “gobierno global”, entonces la máscara se quita un poco. Kurzweil aboga por un cierto tipo de biopolítica, y enmascara sus esperanzas y temores con el determinismo tecnológico.
- ¿Cómo iría uno a organizar los problemas del mundo?
- ¿Cuál es el punto de las fronteras políticas de los países? ¿No está retrasando el progreso de la humanidad en muchos niveles? (economía: ciencia)?
- ¿Por qué los humanos están evolucionando?
- ¿Cuánta luz ‘contaminación’ produce la humanidad colectivamente?
- ¿Alucina un humano promedio al menos una vez en su vida sin tomar sustancias psicoactivas?