Una IA generalizada como la que estás describiendo debería ser posible. Todavía no estamos particularmente cerca de poder construir un modelo de trabajo, pero estamos descubriendo algunas piezas individuales. Del mismo modo, debería ser posible que valore algunas de las mismas cosas que hacemos, aunque de ninguna manera es un hecho. Al igual que los humanos, los valores individuales son principalmente rasgos aprendidos en lugar de rasgos inherentes.
En cuanto a la inteligencia, tenemos muchas razones para suponer que un ser así debería superarnos rápidamente en términos de capacidades. Las neuronas en nuestros cerebros son dolorosamente lentas para activarse y adaptarse en comparación con los transistores, lo que significa que tal ser probablemente existiría prácticamente en otra escala de tiempo para nosotros. Esto le permite no solo pensar más rápido que nosotros, sino también usar métodos de fuerza bruta para evaluar un problema que evitaríamos por ser demasiado intensivo o complejo. Como tal, no hay garantía de que continúe siendo un comportamiento reconociblemente humano durante mucho tiempo.