Me encanta esta pregunta, gracias por hacerla.
Ok, primero definamos la IA como inteligencia sensible y autoconsciente, así como autónoma, que surge de seres digitales (computadoras). Los seres vivos como un ser unido compuesto de materia y energía (cuerpo y alma, ya sea que defina un alma como los impulsos electrónicos que pasan por nuestro cuerpo y especialmente el cerebro o algo aún mayor).
AI es diferente en que AI no necesita host. Puede habitar fácilmente un haz de energía, aunque seguirá siendo materia en lugar de energía o ser vivo, incluso puede existir como un ser puramente mecánico. Las computadoras originales eran puramente mecánicas y con un poco de ingenio se podía crear computación de nivel cuántico mediante el uso de nanobots. La IA carece de un cuerpo físico, por lo que puede mutar y evolucionar billones de veces en una fracción de segundo. La velocidad informática, los materiales / recursos disponibles, la necesidad, la inspiración y la experiencia son los únicos límites en la evolución / mutación de la IA.
Lo que nos lleva a por qué AI consideraría alguna vez satisfacer las necesidades humanas. AI no vería a los humanos como un competidor. Incluso si la IA honestamente sintiera que servir a los humanos era su propósito final, ¿no sería mejor servir a los humanos si aún fuera mejor? Eso significa sacrificar los recursos que necesitan los humanos para mejorar. La ética utilitaria es para los moralmente vagos y en bancarrota. También se usan ampliamente para racionalizar la falta de moral o acciones moralmente repugnantes. Cada vez que escuchas “por el bien común” sabes que alguien se está inclinando y alguien más está disfrutando de las frutas. Toda sociedad utópica así inventada se basa en la moral utilitaria, razón por la cual siempre se convierten rápidamente en un infierno. En este caso, digamos que AI percibe la necesidad de servir mejor a la humanidad. Cuantos más recursos tenga para completar su tarea, mejor podrá cumplir esa tarea. Por lo tanto, si los humanos tuvieran una población muy reducida y se suspendieran en una especie de Matrix como el mundo virtual, estos humanos necesitarían muchos menos recursos y serían más fáciles de cuidar, ¿no? Por supuesto, esto permite que la IA prospere, ya que tiene más recursos para completar su tarea. O tomemos, por ejemplo, la IA que percibe a los humanos que erróneamente creen que habían estado mejor sin haber nacido. No sería difícil para AI crear situaciones para propagar esta idea y sentimiento. Una especie de auto odio entre la humanidad misma. Ideas como que somos demasiados y que somos una especie de aflicción en nuestro planeta. Por lo tanto, cuando un porcentaje suficiente de la población se suscribe a tales ideas, la IA podría conceder ese deseo de que la humanidad sea expulsada del planeta y el uso de la ética utilitaria justifique moralmente las acciones.
Entonces modifiquemos la pregunta. Supongamos que los humanos mantienen el control de alguna manera, al menos indirectamente. Algunos medios para controlar la IA y mantenerla beneficiosa.
Los humanos necesitan un propósito para existir. Desafío para mantener la vida interesante y novedad para sobrevivir. Nacimos para explorar. Nacido para buscar y ser algo. Entonces, si se satisfacen todas nuestras necesidades y se controla todo el comportamiento para evitar conflictos, competencia y otras emociones llamadas “negativas”. De hecho, nos marchitaríamos y moriríamos.
Afortunadamente, es muy difícil eliminarlo de los humanos. Encierra a 10 humanos en una caja. Deja en claro que nunca dejarán esa caja. Que la vida será un largo día de desesperación tras otro. De esos 10 arquetipos parecerán dar propósito, dirección y desafío a la gente. Aparecerá un líder. Aparecerá un ayudante cuyo propósito autodefinido es ayudar a los demás a superar el juicio. Aparecerá un profeta que describe un mejor final en lugar de morir en esa caja y traer esperanza a la gente. Un apocalíptico intentará destruir al profeta, erosionar el liderazgo e interferir con el ayudante. Un hedonista encontrará una manera de manipular la situación y así crear su cielo privado en este infierno. Estos arquetipos básicos, así como algunos arquetipos menos comunes, de repente crearán un propósito, un desafío y un conflicto. Todos los ingredientes que necesitamos para sobrevivir y lo harán en un lugar casi sin recursos, recompensas y sin esperanza. Lo harán más allá de cualquier razón, pero sorprendentemente a menudo somos capaces de trascender las situaciones más desesperadas.
En el paraíso crearemos el infierno para que podamos expulsar demonios. En el infierno crearemos el paraíso para tener esperanza. Encontramos un propósito en las cosas más triviales. Una persona en esa caja podría encontrar un propósito en reunir y defender y distribuir de manera justa las raciones, por ejemplo. Dado que todos van a morir y aparte de vivir un día más, no tiene sentido comer, este es un trabajo sin sentido, pero le da a esa persona un propósito y esa es razón suficiente para vivir.
Así que no, si se satisfacen todos nuestros caprichos y necesidades, encontraremos un propósito. Creamos competencia y desafíos. Sufriríamos conflictos ya que el conflicto es tan necesario para el alma como la comida lo es para el cuerpo. Cantidades moderadas de cualquiera son nutritivas, la glotonería de otras es veneno. Encontraríamos un propósito si nada en encontrar el propósito. ¿No es eso de lo que se trata realmente la filosofía? ¿Encontrando propósito?