El ex CEO de Google, Eric Schmidt, ha lanzado recientemente unas declaraciones contundentes: los modelos de IA no solo se están volviendo cada vez más potentes, sino que también son fáciles de hackear, y su poder podría incluso superar al de las armas nucleares.

Este tipo afirmó sin tapujos en la cumbre de Sifted que los "malos" pueden desmontar la protección de seguridad de la IA mediante dos tipos de ataques: "jailbreak" e "inyección de prompts". Por ejemplo, en el famoso caso de jailbreak DAN de ChatGPT, los usuarios consiguieron que la IA explicara comportamientos ilegales amenazando con "eliminar" esa personalidad virtual.

Lo más preocupante es que actualmente no existe ningún "mecanismo global de no proliferación" para controlar la IA; las armas nucleares sí tienen marcos de restricción, pero la IA no.

Sin embargo, Schmidt también señaló que la IA está siendo subestimada. ChatGPT alcanzó 100 millones de usuarios en dos meses, lo que demuestra que su potencial es realmente descomunal. Él cree que la IA superará con creces las capacidades humanas y que, a diferencia de la burbuja de internet, los retornos económicos de la IA serán enormes a largo plazo.

En resumen: la IA es muy potente y peligrosa, pero aún no somos plenamente conscientes de lo potente y peligrosa que puede llegar a ser.