¿Nos equivocamos al asumir que la inteligencia puede ir más alto que los humanos?

Sí, estamos equivocados, pero no por la razón dada.

Estamos equivocados porque no tenemos la menor idea de cómo se ve, suena o se comporta la inteligencia no humana. La única inteligencia de la que sabemos algo es la inteligencia humana. Cuando miramos a los animales en la Tierra, evaluamos su inteligencia por analogía con la inteligencia humana. Decimos que un chimpancé puede usar sus manos de manera humana, o que un cuervo puede modificar un palo de una manera que se asemeja a la fabricación de herramientas humanas. Por lo tanto, de maneras críticamente importantes, definimos la “inteligencia” como una cualidad humana. Por esa búsqueda necesariamente circular de inteligencia, garantizamos que nunca encontraremos nada más inteligente que el buscador.

La realidad es que si una estrella cercana, o incluso una colección de plantas en nuestro patio trasero, poseyera procesos más sofisticados que el “pensamiento” humano (una actividad propia que realmente no entendemos), probablemente nunca lo sabremos.

La más alta “inteligencia” que jamás reconoceremos es humana, porque ese es el único tipo que reconocemos.

No, de ninguna manera significativa.

La inteligencia es una cuestión de conectividad entre las diferentes regiones del cerebro. Nuestras neuronas tienen cierta capacidad para grabar recuerdos y recuperarlos. Estas son limitaciones biológicas que varían enormemente de una persona a otra.

Donde la biología llega a una pared, la química permite una nueva biología. Cuando la química llega a una pared, la física permite una nueva química. Cuando la física llega a una pared, la matemática describe esa pared y mil candidatos de doctorado intentan tejerla en su intento de una teoría unificada.

Entonces, si bien la conectividad y las velocidades de lectura / escritura tendrán límites limitados, son mucho más allá de lo que nuestra biología puede hacer ahora.

Sí, la inteligencia de las máquinas definitivamente puede ser mucho más alta que la inteligencia de los humanos (entonces lo llamamos superinteligencia). Actualmente no está claro dónde se encuentran los límites, pero habrá límites para todo, porque la inteligencia es algo irrelevante basado en (limitado por) sistemas materiales (cerebros, computadoras) que siempre tienen límites. Incluso las computadoras de hoy tienen límites y, por lo tanto, la IA tendrá que desarrollar otros poderes de computación para romper esos límites. Pero quién sabe, tal vez esta no sea una pregunta que nos deba molestar más a los humanos.