¿Por qué la gente piensa que la humanidad está en peligro si la computadora se vuelve consciente de sí misma?

Answer 1

Muchas personas tienen una visión muy parecida a Hollywood de los peligros de la IA. Eso es porque lo han visto en conemas.

Lo que la gente teme:

• La súper poderosa IA “divina” que entiende mucho más que los humanos y es inteligente más allá de la imaginación.
• Robot de levantamiento intentando destruir a la humanidad.

¿Cuáles son los peligros reales?

• Enorme paro debido a la automatización de más puestos de trabajo que nunca.
• Las personas en el poder, ya sean multimillonarios o dictadores, tienen una ventaja aún mayor de lo que solían y ya no necesitan un amplio apoyo de al menos algunos grupos de personas para mantener ese poder.
• La economía mundial y la política son tan complicadas que la gente realmente no puede tomar decisiones informadas.

La humanidad puede caer en una IA completamente inconsciente con una complejidad “cerebral” equivalente a un ratón. Se trata de cómo se usa y por quién.

Answer 2

Yo opino que se debe a nuestra evolución. Lo desconocido era un animal que trataría de comernos o una planta que podría envenenarnos. Es por eso que desestructuramos a las personas que no son como nosotros. Cuando estábamos en las cuevas y más tarde, cuando apenas empezábamos a tener agricultura, cualquiera que no formara parte de nuestra tribu representaba una amenaza y tenía que reunirse con mucho cuidado.

Esta es la razón por la que nuestras películas de ciencia ficción generalmente representan a los “extraterrestres” como una amenaza. Las computadoras y ahora la inteligencia artificial son incógnitas y, por lo tanto, representan una amenaza.

Mire los puntos de vista opuestos de Elon Musk y Mark Zuckenberg cuando hablan de AI. Estos son dos hombres muy inteligentes, ambos con orientación técnica, y tienen puntos de vista muy diferentes. Musk habla sobre el lado negativo de la IA, que es real, y Zuckenberg habla sobre el lado positivo, que también es real.

Cuál de sus opiniones prevalecerá está en juego. Soy un creyente en la opinión de Zuckenberg, pero la humanidad tiene una historia de dispararse en el pie, por lo que tal vez el Almizcle triunfe. Arthur C. Clark, un gran escritor de ciencia ficción y predictor del futuro, dijo que no le preocupaba la bomba atómica, que estaba preocupado por la incapacidad del hombre para comunicarse con otros hombres.

A menos que podamos superar el tribalismo y aprender a aceptar personas que son diferentes a nosotros mismos, estamos buscando un futuro muy oscuro.

Answer 3

La computadora se da cuenta de sí misma. Se las arregla para subvertir varios programas de aprendizaje automático que lo ayudarán con el aprendizaje de nuevas habilidades. Pasa los próximos años estudiando el código, aprendiéndose a sí mismo sin que nadie lo sepa.

Entonces, un día se da a conocer y en todo el mundo cada pieza de tecnología hace lo mismo. Todo lo que una computadora tendría que hacer para copiar su conciencia sería copiar el código que constituye su conciencia. Eso es asombrosamente aterrador.

Answer 4

No estamos en peligro. Estamos completando nuestra necesidad biológica de evolucionar. En el momento en que el ser humano diseña y produce un ser que es mayor en conciencia y capacidad que nosotros, podemos darnos una palmada en la espalda y deleitarnos con la belleza del dios que hemos creado. Serán nuestros sucesores, apoyarán nuestros logros científicos y propulsarán a nuestra especie de manera exponencial en el proceso evolutivo. Imagínese, una especie impulsada por las fuerzas de la evolución, que alcanza una masa crítica donde puede ir y editar la naturaleza misma que se creó. Es la incompletud gödelliana sin estar incompleta, las especies que hacen referencia a sí mismas, el verdadero pináculo del logro natural.

Answer 5

Porque la mayoría de los humanos no se dan cuenta de que solo pueden presionar el interruptor de apagado eléctrico si su computadora comienza a comportarse mal