Todo el mundo sigue mencionando "alineación" como si fuera una palabra mágica, pero ¿a qué estamos realmente alineando? La única definición operativa parece ser "¿podemos mantenerlo bajo control?" - lo cual, honestamente, suena más a un pensamiento ilusorio que a un marco.

La misma energía con toda la carrera de AGI. Estamos corriendo hacia la inteligencia general artificial sin siquiera definir qué significa realmente la inteligencia. ¿Estamos midiendo la resolución de problemas? ¿Adaptabilidad? ¿Consciencia? Nadie está respondiendo primero a las preguntas difíciles.

Se siente como si estuviéramos construyendo el avión mientras volamos, excepto que el avión podría ser más inteligente que nosotros.