Es bastante fácil para una máquina, y mucho menos una impulsada por IA, escribir código que es demasiado complejo para la mayoría de los humanos. Simplemente mire cualquier código de metaprogramación o plantilla generado automáticamente, o mire la salida de su compilador / intérprete. Cuando algo está destinado al consumo de máquinas, no al consumo humano, tiende a parecer bastante arcano.
En cierto modo, ya es un problema que el “código” generado por los modelos de aprendizaje automático más potentes de la actualidad sea incomprensible para los humanos. Con eso quiero decir, la mayoría de los modelos ML actúan como cajas negras : ningún ser humano comprende cómo producen los resultados que hacen, solo sabemos que funciona. Esto es problemático porque siempre habrá casos en los que tales modelos no funcionen , y en nuestro enfoque actual para construir tales sistemas, simplemente esperamos que ocurran esos problemas, luego regresamos y los resolvemos con una solución aún más complicada modelo incomprensible.
Así que creo que la pregunta más interesante es en realidad:
“¿Es posible que AI escriba código bien organizado y lo suficientemente comprensible para que los humanos lo lean y entiendan?”
- ¿Deberíamos arreglar nuestro planeta o dejarlo?
- ¿Cómo terminaron los vikingos o quién los aniquiló?
- ¿Cuál fue el punto de inflexión en la historia de la humanidad?
- ¿Cuándo y a qué hora entra un alma en el feto humano?
- ¿Por qué la crueldad es la regla en el universo?
Espero que la respuesta sea sí, pero aún no hemos llegado.