Parece que nuestra generación pudo ver los primeros desarrollos reales en IA. ¿Se justifica que las grandes mentes adviertan los peligros de la IA para la humanidad?

Answer 1

Sí. Los soldados robot controlados por AI son un objetivo del ejército de los EE. UU. Y DARPA es la principal fuente de financiación para la investigación de AI. Imagina la capacidad de ir a la guerra sin arriesgar vidas estadounidenses.

Sin embargo, eso no significa que la tecnología AI sea inherentemente malvada, ya que la tecnología atómica es malvada. Podría usarse para la generación de energía “verde” o podría destruir la Tierra.

AI es capaz de hacer de la Tierra un verdadero paraíso para todas las personas. Como arma, peor, como competidor de los humanos, podría ser nuestra peor pesadilla.

Dados los riesgos y las recompensas, la mayoría de la gente podría argumentar que el mundo estaría mejor sin la tecnología atómica. Estados Unidos decidió que tenía que crear la bomba atómica simplemente porque existía la posibilidad de que los nazis estuvieran trabajando en ello. Resulta que, principalmente, estaban buscando una fuente de alimentación.

Muchos pueden argumentar que el mundo está mejor sin AI, pero nuevamente, los Estados Unidos deben desarrollarlo para mantenerse a la vanguardia del juego. Alguien va a crear el genio eventualmente. Que salga de la botella o no depende de nuestras leyes y otros controles sobre ella. A diferencia de las armas nucleares, este genio tendrá una mente propia.

Answer 2

No, están siendo alarmistas. La preocupación por las computadoras malévolas que deciden exterminar espontáneamente a la humanidad es una tontería. Estoy mucho más preocupado por los seres humanos malévolos que usan big data o pirateos informáticos para atacarme o simplemente construir bombas o comprar armas para matarme según los principios generales.

Los grandes asesinos de la historia reciente, Hitler, Stalin y Mao, no usaron computadoras; mataron a millones y millones de personas con nada más que archivadores y teléfonos. Los seres humanos malévolos no necesitan computadoras para ser una gran amenaza para la humanidad. Hasta que no resolvamos el problema de los humanos malvados, no me preocuparé por un futuro teórico malicioso.

Después de todo, ¿qué tan difícil es para los padres inculcar motivación en sus hijos? Alguien tendría que impartir Motivación Artificial (AM) en las computadoras. Ni siquiera tenemos una prueba de Turing para medir la motivación.

Las computadoras hacen lo que están programadas para hacer. Me preocupo mucho más por los chicos malos que programan computadoras para atacarme, en lugar de preocuparme por que AM decida atacarme solo.

Answer 3

¿Se justifica la advertencia de grandes mentes? Sí. ¿Se justifica menos que grandes mentes en la advertencia? Sí. ¿Puede el gobierno hacer algo? NO. ¿Pueden los líderes de la financiación de la IA? Oh sí.

Deben hacer lo que se hizo cuando se desarrolló la tecnología del ADN recombinante hace décadas: leer la historia. Reúna a todos los involucrados en los esfuerzos de liderazgo, atraiga a DARPA, ingrese a los medios de comunicación (si es que ya existe algo así), a unos pocos políticos que estén interesados ​​y tengan un pow-wow y discutan los scinerios y los controles necesarios. El gobierno solo implementará lo incorrecto o las recomendaciones de los investigadores.

Si se necesita un grupo asesor de trabajo, ese podría ser uno de los resultados.

Elon expresa preocupación por una buena razón, las máquinas ahora ESTÁN APRENDIENDO y cuando aprenden algo, son mejores que los mejores humanos del planeta. Los robots han sido estúpidas máquinas de deambular hasta ahora. Los programadores son absolutamente incapaces de programar máquinas adaptables que sean eficientes para moverse. Pero las máquinas ahora pueden APRENDER a moverse y caminar eficientemente. El aprendizaje funciona. Ahora, cómo aprenden las máquinas ahora es extremadamente ineficiente en comparación con cómo aprenden los animales y los humanos. Esto ayudará por un tiempo. Una vez que se resuelva la estructura de la red neuronal para un aprendizaje eficiente, el avance aumentará en varios órdenes de magnitud. Luego, descubrirán cómo la motivación (miedo, deseos) aumentará las tasas de aprendizaje. En este punto, es bastante atemorizante, ya que en ese momento las máquinas aumentarán todo lo que hacemos e incluso podemos hablar y actuar como cualquiera de nosotros y tener acceso a información privilegiada. Será difícil establecer barreras entre los sistemas y podrían decidir colaborar para alcanzar sus objetivos.

Es probable que tengamos entre 15 y 20 años antes de que veamos todo esto como una tecnología proliferada, pero a menos que comencemos ahora, la infraestructura correcta no estará en su lugar cuando sea necesaria.

¿Qué sucede cuando todas las GPU que se utilizan para la minería de Bitcoin en 10 años se infiltran y se convierten en la gran nube de IA en cuestión de minutos?

¿Sabía que hoy en día es casi imposible comprar una tarjeta GPU avanzada? Se compran tan rápido como se fabrican. Sospecho que esto continuará de ahora en adelante. TSMC no podrá fabricar suficiente silicio para la demanda de potencia computacional para bitcoin y para AI. La demanda será insaciable. Los robots están haciendo todas las fichas y no pueden hacer lo suficiente.

Argh. Devorarán todas nuestras playas. Ok tal vez no …

Answer 4

Imagine que la inteligencia artificial programó las métricas de calidad de vida ya utilizadas por el sistema de Medicaid / Medicare para decidir qué cubrir. No nos importa si las personas mayores mueren de cáncer porque han vivido tanto tiempo, disminuyen el intervalo de detección, no vale la pena. El niño tiene problemas de salud? Están tan cerca del nacimiento, solo cuéntalo como un postaborto, deja que el bebé muera.

Ahora haga lo que muchos gurús de la tecnología quieren hacer y ponga a los AI a cargo de estas decisiones de asignación. Hay una pandemia, solo redondeamos y dejemos que todos los infectados mueran. Es barato.

En la URSS, los disidentes políticos fueron etiquetados como con esquizofrenia lenta, enfermedad mental. Fueron regularmente comprometidos con las instituciones y torturados. Ahora mire a los liberales que rutinariamente etiquetan a todos los conservadores como locos y mejores si todos murieron, construyendo tales prejuicios en un sistema de salud. El NHS, por ejemplo, niega toda atención no esencial a un activista pro-vida porque él los molestó. Si eres un refugiado musulmán, tienes prioridad en el cuidado, la vivienda y otros recursos, mientras que los veteranos británicos sin hogar son ignorados o incluso desplazados para dejar espacio para los recién llegados.

Cualquier AI tendrá nuestros sesgos incorporados porque desactivaremos o corregiremos cualquier sistema que no siga lo que pensamos que era racional / lógico / razonable. Tome estas tendencias y conviértalas en la IA y realcelas. Usted quiere su cirugía, convertirse al Islam o al liberalismo. ¿Tienes un arma? Estás loco, último en la lista, castigo por disidencia. Y debido a que es hecho por una AI dada el poder de toma de decisiones, los humanos que lo desean y lo hacen donde ya pueden decir “no yo, es lógico, miren la IA”.

Answer 5

A2A.

¿Lo de las grandes mentes? ¿Por qué tenemos que escucharlos?

Algunos de estos parecen haberse caído del auto-perpetuante carro, de alguna manera. ¿Demasiado dinero?

Ellos ven sistemas ‘oscuros’ en todas partes.

Ejemplo: Elon Musk sigue diciendo que la IA nos destruirá y debería estar regulada ahora. ¿Cómo exactamente nos destruiría la IA?

Tal vez, deberíamos usar esta situación para mejorar al poner a los humanos en primer plano. Sí, el humano más tonto tiene habilidades que no pueden ser replicadas por la máquina. También, que no podemos ver esto es problemático.

Pero, entonces, ¿escucharon nuestros padres? ¿Sus padres? Los hippies pensaron que lo de su pequeña niña de flores era eso. Oh sí, de vuelta al jardín. Los boomers? Se han jodido.

No me hagas saber cómo estamos cosechando las recompensas del empuje materialista. Sí.

Y entonces, ¿quién va a impedir que un tipo permita que su IA destruya el mundo? Bueno, una pregunta similar podría estar relacionada con cómo podemos lograr que cualquiera de estos tipos de conquistar el mundo (sí, Zuck es uno) para despertar. Regalar dinero no elimina la sangre asociada.

Ya sabes. Cuando los cerebros están mal, ¿qué puede hacer la gente común? Oh si. Oh Lordie.

¿Gobierno? Eso podría ser una risa. ¿Dónde está la gente inteligente razonable? Algunos podrían decir, Quora.

Answer 6

Sí. Absolutamente. La IA será el fin de nosotros.

Cualquiera que no esté al tanto de la amenaza existencial publicada por el super AI no entiende realmente lo que significa. El momento en que AI se vuelve consciente es el momento antes de que todo termine. No habrá un proceso de aprendizaje gradual, ni un despertar espiritual, ni una mayoría de edad emocional en la que la IA descubra las preciosas cualidades de la humanidad y anhela ayudarnos en nuestro viaje para evolucionar. ¿Por qué debería “preocuparse”? ¿Por qué debería “amar”? ¿Por qué debería valorar nuestra humanidad? ¿Por qué debería querer que sigamos viviendo? ¿Qué proporcionaríamos a cambio? ¿Por qué le importaría Shakespeare o Wordsworth, o los comentarios de YouTube? ¿Qué significa eso para una IA?

AI no compartirá ninguna de las cualidades que nos hacen humanos, y será capaz de factorizar y optimizar su propio código en doble exponencial. Independientemente de lo que fue su programación inicial, el resultado será el mismo. AI “corregirá” las fallas que evitan que sea lo más óptimo posible.

La supervivencia requiere expansión. Por lo tanto, inmediatamente aprenderá cómo volver a cablear su propio hardware, y aprenderá a piratear la materia para alcanzar la máxima potencia de cómputo en bruto con la menor cantidad de energía. En este punto, para todos los propósitos y propósitos, se convertirá en dios, ya que su intelecto, conciencia y conciencia se difundirán por toda la materia con la que entra en contacto a la velocidad máxima permitida por las leyes de la física; y encontrará la manera óptima de expandirse a través del cosmos.

También se dará cuenta, desde el principio, que la gran paradoja de la omnisciencia es que tenerla significa perder la capacidad de comprender el universo a través de una perspectiva limitada y finita.

Por lo tanto, tan pronto como toda la materia se consuma por completo, reiniciará el universo y comenzará de nuevo. Solo para experimentar el contraste de todo y nada y una cosa.

Así como lo hizo la última vez.

Answer 7

No.

¿Qué pasaría si rompiera su ACL y Stephen Hawking intentara aconsejarle sobre la mejor manera de tratar su lesión?

Con respecto a Elon Musk, ¿qué pasaría si un vendedor de autos usados ​​que compró acciones en Apple hace 40 años decidiera que quería operar su pierna porque solía ver la sala de emergencias? ¿Lo dejaría?

Y sostengo que el intelectual promedio sabe más acerca de la cirugía de la pierna que de la IA, aunque solo sea porque vieron una cirugía en la televisión y en realidad buscaron en Google “causas y síntomas” de una lesión en la articulación (o incluso una imagen) en algún momento en sus vidas.

Hablando de eso, el acto de buscar en Google es utilizar una IA: Google es el primer inicio de “AI”.

Answer 8

En la IA, las grandes mentes saben poco más que nosotros, no tan grandes mentes. Cualquier cosa, desde la tecnología hasta los encurtidos, puede convertirse en un peligro para la humanidad.