Así que hay una historia increíble sobre cómo una moneda meme creó accidentalmente uno de los mayores cofres de guerra de políticas de IA en el mundo, y Vitalik Buterin acaba de hacer pública su preocupación por cómo se está usando.

En 2021, los creadores de Shiba Inu literalmente airdropearon una gran cantidad de tokens SHIB en la cartera de Vitalik sin permiso. Su estrategia fue obvia: poner el nombre de Vitalik en los materiales de marketing y aprovechar el hype. Y de hecho funcionó. Los tokens se dispararon a más de $1 mil millones en valor. Vitalik no pidió esto, así que se apresuró a salir. Incluso llamó a su madrastra en Canadá para recuperar una clave privada de 78 dígitos de su armario. Logró convertir lo que pudo a ETH, donó $50 millones a GiveWell, y dividió el resto entre CryptoRelief y el Future of Life Institute.

Aquí es donde se pone interesante. FLI liquidó alrededor de $500 millones de su parte del botín de Shiba. Eso es mucho capital. Cuando Vitalik respaldó inicialmente a FLI, tenían una hoja de ruta sólida centrada en riesgos existenciales de la IA, biotecnología y armas nucleares. Pero luego FLI cambió drásticamente hacia una acción política y cultural agresiva en la política de IA. Y eso es lo que le molesta ahora a Vitalik.

Le preocupa que una acción política coordinada a gran escala con enormes fondos inevitablemente conduzca a resultados no deseados y reacciones adversas. Su preocupación específica es que este enfoque puede volverse fácilmente autoritario y frágil, incluso si esa no era la intención original. Señaló que la estrategia de FLI de incorporar límites en los modelos de IA y dispositivos de biosíntesis es demasiado fácil de sortear mediante jailbreaks y ajuste fino. El extremo lógico de ese pensamiento es prohibir la IA de código abierto o respaldar a una empresa "buena" para dominar globalmente, lo cual ve como una receta para convertir al resto del mundo en tu enemigo.

Vitalik también señaló un problema estructural con las estrategias centradas en la regulación. Cuando los gobiernos restringen tecnologías peligrosas, las organizaciones de seguridad nacional obtienen exenciones, y esas mismas organizaciones a menudo son parte del riesgo ellas mismas.

Dicho esto, se ha sentido alentado por algunos trabajos recientes de FLI, como su declaración "pro-human AI" de carácter ideológico cruzado, que está uniendo a conservadores, progresistas, libertarios y países como Estados Unidos, Europa y China.

El problema principal es simple: Vitalik nunca quiso esta donación de Shiba en primer lugar, pero medio billón de dólares de su ingreso accidental ahora se están desplegando de maneras que le incomodan. Ha estado planteando estas preocupaciones con FLI en privado durante un tiempo, pero decidió hacerlo público en X. Es un recordatorio de que incluso las organizaciones bien intencionadas pueden desviarse de su misión original, especialmente cuando de repente tienen un capital enorme para desplegar.