Esta es una pregunta muy importante para hacer. Tal vez incluso la pregunta más importante del mundo. Aquí hay una lista de opciones.
Opción A: La muerte térmica del universo. No vamos a superar eso. Cuanto menos plausible sea el resto de esta lista, más plausible es esta opción.
Opción B: una inteligencia artificial que puede realizar cualquier tarea cognitiva que un ser humano pueda hacer. Para justificaciones de que esto es un riesgo real, lo vincularé a cualquier otro lugar, ya que hay mucho terreno que cubrir. Pero aquí está la versión de tres oraciones. Tenemos nuestra posición dominante debido a la inteligencia. Si algo más inteligente que nosotros no compartiera nuestros valores, sería hostil para nosotros y nos derrotaría. Es muy difícil descubrir cómo codificar con éxito los valores en un programa de computadora que realmente queremos optimizado. Aquí hay un artículo que escribí que entra en más detalles, pero aún es solo una introducción. Aquí hay un artículo que describe lo que los investigadores de AI eminentes piensan de todo esto. Este es el libro sobre el tema de Oxford. Este es un documento sobre por qué no podemos simplemente poner una IA inteligente a nivel humano en una caja sellada y estar bien. Aquí hay un resumen de algunas de las direcciones de investigación actuales en las que están trabajando las personas para tratar de mitigar este riesgo.
El resto de estos son mucho menos probables que A o B. Pongo la Opción C al 1% y el resto a menos de 10 ^ -5.
- ¿Son los humanos los únicos animales que tienen diferentes tonos vocales basados en su sexo?
- ¿Quién es la persona que más contribuyó a construir tu futuro?
- Si no hubiera habido un evento de extinción masiva, ¿habrían existido los humanos alguna vez?
- ¿Por qué no vemos ningún híbrido mitad humano / mitad mono hoy en día?
- ¿Quién es más inteligente, un humano o satanás?
Opción C: Una pandemia. Si una enfermedad tuviera la contagia de la influenza, el período de incubación de la viruela y la morbilidad de la rabia, eso podría acabar con nosotros. Estoy usando ejemplos de enfermedades reales para hacer que esto parezca tan plausible como puedo. Dicho esto, una persona ha sobrevivido a la rabia [1], por lo que tal vez esta pandemia imaginada tendría que tener una morbilidad más allá de cualquier enfermedad que hayamos encontrado. Eso, por supuesto, hace que esto sea menos plausible.
Opción D: el sol se expande y se calienta lo suficiente como para hacer que Marte sea inhabitable. Esto sucederá en unos pocos miles de millones de años. Ese es nuestro reloj para el desarrollo del viaje interestelar. Sin embargo, dado lo mucho que hemos logrado en los últimos doscientos, y dado que tenemos decenas de millones de esos intervalos en el futuro, creo que tenemos mucho tiempo. Sin embargo, nunca es demasiado temprano para empezar, así que Elon Musk está haciendo lo correcto aquí.
Opción E: el sol se expande y se calienta lo suficiente como para hacer que la Tierra sea inhabitable. Esto sucederá en unos mil millones de años. Esto me parece incluso menos probable que la Opción D, ya que no parece tan difícil llegar a Marte y hacer que su atmósfera sea habitable, y mil millones de años es bastante tiempo. El colapso civilizacional completo y permanente es necesario aquí; No solo colapso civilizacional por unos pocos miles de años.
Opción F: Guerra Nuclear. La mayoría de los modelos sobreviven a Australia y Nueva Zelanda [2], por lo que el riesgo de esta opción es realmente el riesgo de que esos modelos estén equivocados. Confío en los expertos aquí, pero sería una tontería no permitir al menos una pequeña probabilidad de que estén equivocados.
Opción G: astutoide HUUUGE. Sobrevivimos al último asteroide, y nuestra tecnología ha mejorado mucho desde entonces. No demasiado preocupado por este.
Aquí hay algunas no-opciones que las personas a menudo están preocupadas.
Sin opción A: calentamiento global. El calentamiento global apestará, y probablemente será una catástrofe ética más grande que cualquier otra cosa que haya sucedido. Pero para que el calentamiento global nos elimine por completo, tendríamos que quemar aproximadamente 10 veces más carbón, petróleo y gas natural que existe actualmente en la corteza terrestre. [3] También ofrezco una imagen más completa aquí en un post muy corto (mucho más corto que este).
Sin opción B: asteroide de tamaño normal. Como se ha mencionado más arriba.
Creo que esta respuesta representa algo parecido a lo que diría la gente del Centro para el Estudio del Riesgo Existencial, pero sospecho que también hay pequeñas diferencias. Ese es el próximo lugar al que me gustaría dirigirme si te interesan más opiniones.
Notas al pie
[1] Misterio médico: solo una persona ha sobrevivido a la rabia sin la vacuna, pero ¿cómo?
[2] Los mejores lugares para escapar de la guerra nuclear.
[3] ¿Se va a hervir el océano de la Tierra?