Bueno, tomemos el caso del kobayashi maru. Esta fue una prueba teórica que se dio a los nuevos cadetes en la academia de la flota estelar para probar su moral. En la prueba, a los cadetes se les presenta un escenario en el que se les da la oportunidad de salvar una nave civil llamada Kobayashi Maru del malvado imperio Klingon. La opción es que pueden intentar salvar el barco y arriesgarse a iniciar una guerra prolongada con los Klingon, que inevitablemente matará a muchas más personas, o pueden optar por abandonar el barco que prácticamente garantizaría la muerte de todos a bordo del barco.
Cualquiera que elijan, todos en el barco morirán.
Realmente no hay una buena respuesta a esta pregunta. Y no ha importado mucho hasta hace poco. El caso en particular involucra los autos automatizados en los que Google y otras compañías están trabajando actualmente. No hace falta decir que estos vehículos de conducción automática siempre deben tomar la mejor decisión para los pasajeros, ¿no? ¿CORRECTO?
Bien, ¿qué pasaría si su auto automático fuera muy rápido y doblara una esquina donde no esperaba que hubiera gente? Pero en cambio detectó una multitud de personas. ¿Qué pasaría si a la computadora se le presentaran dos opciones? La primera opción era chocar contra el grupo de personas que seguramente mataría a muchas de ellas, y posiblemente también matar a los pasajeros en el automóvil, y la segunda opción era conducir directamente a un poste de teléfono donde prácticamente garantizaría la muerte de todos. Los pasajeros en el automóvil, pero en general, es probable que salve más vidas que mataría.
- ¿Es el servicio de gestión de infraestructura una buena opción de carrera?
- ¿Están las redes sociales muertas? Si es así, ¿qué sigue?
- ¿Cómo podemos anticipar nuevas tendencias tecnológicas?
- ¿Es posible construir un traje humano o una nave espacial que pueda viajar a través del sol sin ser afectado? Si es así, ¿de qué estaría hecho y cómo funcionaría?
- ¿Cómo pueden los humanos controlar la inteligencia artificial o al menos asegurarse de que no se vuelva independiente por sí sola?
Son casos como este los que nos asustan. Es posible que queramos programar una computadora para tomar una decisión que resulte en nuestra propia muerte. Menos mal que hemos tenido muchas décadas para pensar en cosas como esta gracias a Star Trek (y los innumerables otros espectáculos y novelas de ciencia ficción)