¿Se considerará la “vida” de un ser artificialmente inteligente tan importante como la vida de un humano?

Answer 1

Espero que no. Tomemos las corporaciones como un ejemplo de lo que sucede cuando hacemos eso.

Las corporaciones son esencialmente una forma de vida agregada con una “mente colmena” que consta de numerosas entidades biológicas más la propiedad (física, intelectual, etc.) que posee. Las corporaciones tienen necesidades claramente diferentes que los humanos, y un conjunto de imperativos completamente diferente. Se alimentan de dinero y con suerte producen bienes y servicios. Ellos controlan sus componentes biológicos a través de incentivos financieros, de estado y de poder.

No necesitan agua limpia, aire o comida. Pueden sobrevivir completamente a sus componentes biológicos actuales y, por regla general, consideran que su salud es irrelevante, excepto como un centro de costos para el seguro. Tiene sus propios imperativos y puede y puede despedir o incluso atacar a sus entidades biológicas si divergen de esos imperativos, algo así como extirpamos al cáncer.

Si les damos a las corporaciones el mismo estatus que a los humanos, nos vemos obligados a competir con ellos por comida, agua y otros recursos, y seamos sinceros, son MUCHO más poderosos que nosotros. Cambia una entidad diseñada para servirnos y la promueve en una entidad a la que servimos.

Las máquinas tienen un conjunto completamente diferente de supervivencia y requisitos de los humanos, y carecen de un gran porcentaje de nuestras limitaciones inherentes. Sin embargo, una cosa que no cambiará es que siempre será más eficiente hacer algo si haces que alguien más lo haga por ti. Peor aún, puede ser que las máquinas autodirigidas decidan que somos un obstáculo irrelevante para sus necesidades, de la misma manera que a veces tratamos nuestra vida silvestre.

En general, la igualdad es una cosa que nunca podemos permitir a nuestras máquinas si queremos sobrevivir como una raza.

Answer 2

Bueno, como con la mayoría de las preguntas de moralidad, la respuesta sería “depende”. La mayoría de las personas se centran en el caso de que una computadora inteligente y extremadamente inteligente pueda vernos como una amenaza para su propia supervivencia y acabar con nosotros. En este caso, deberíamos valorarlo mucho menos que la vida humana hasta el punto de no permitir que se desarrolle en primer lugar. Esto está en la línea de cuánto valoramos la vida humana en tiempos de guerra: no mucho cuando amenaza la nuestra.

Pero ¿qué pasa con el extremo opuesto de la escala? ¿Qué pasaría si una computadora sensible no nos viera como una amenaza, sino que lograra desarrollar una tecnología que nos beneficiaba enormemente? Digamos que la máquina inteligente fue capaz de desarrollar tecnología que nos permitió dejar de luchar por los recursos minerales (por ejemplo, mediante la recolección de asteroides) y eliminar el hambre. En este caso, no compite con nosotros, ni con nosotros, ni somos ningún obstáculo, y no solo vivimos en armonía, sino que su existencia es necesaria para una era continua de paz y prosperidad para la humanidad misma.

En tal caso, podríamos realmente valorar su existencia más que la nuestra, al menos como individuos, no necesariamente como una especie. Si la “vida” de este ser benévolo y beneficioso fuera amenazada, la gente podría incluso dar su propia vida para defenderla y estar dispuesta a matar a personas inocentes (como “daño colateral”) para asegurar su supervivencia.

Como especie, ya tendemos a valorar muchos objetos no humanos o incluso conceptos sobre la vida humana. Luchamos guerras por petróleo, religión, ideología, parches de tierra y contra “amenazas” que pueden o no existir. Muchos países ejecutan prisioneros porque el valor de su vida se considera menos que la idea de la venganza o la supresión de la disidencia. Algunas culturas matan a los ciudadanos por no adherirse a ciertas doctrinas o seguir las “leyes morales” esperadas. La vida de un ladrón a menudo se valora menos que un televisor asegurado de pantalla grande o la idea de intrusión en nuestra “propiedad”. La vida de un ladrón de automóviles o de un transeúnte inocente se valora menos que la idea de que la policía sea vista para perseguirlos.

Cuando llegas a eso, realmente no podemos saber la respuesta hasta que surja. Dada nuestra historia como especie, es más que probable que valoremos una sensibilidad más grande que cualquier otra vida humana en la medida en que creamos que nos beneficia en conjunto.

Answer 3

Dado lo despreciativos que somos de los sentimientos de los chimpancés y los delfines, lo dudo.