Cựu CEO Google, Eric Schmidt, gần đây đã đưa ra phát ngôn gây chấn động: các mô hình AI không chỉ ngày càng mạnh mẽ mà còn dễ bị hacker tấn công, thậm chí sức mạnh có thể vượt qua vũ khí hạt nhân.

Ông này đã thẳng thắn tại hội nghị Sifted rằng, kẻ xấu có thể dùng hai phương thức tấn công là "jailbreak" (bẻ khóa) và "prompt injection" (tiêm lệnh nhắc) để phá bỏ lớp bảo vệ an toàn của AI. Ví dụ như vụ jailbreak DAN nổi tiếng của ChatGPT, người dùng đe dọa "xóa" nhân cách ảo này, ép nó phải giải thích các hành vi bất hợp pháp.

Đau nhất là — hiện tại hoàn toàn không có "cơ chế chống lan truyền toàn cầu" để kiểm soát AI, trong khi vũ khí hạt nhân còn có khuôn khổ ràng buộc, AI thì không.

Tuy nhiên, Schmidt cũng nói rằng AI thực ra đang bị đánh giá thấp. ChatGPT đạt 100 triệu người dùng chỉ sau 2 tháng, điều này cho thấy tiềm năng của nó thực sự khủng khiếp. Ông cho rằng AI sẽ vượt xa năng lực con người, không giống bong bóng Internet, lợi ích kinh tế từ AI về lâu dài sẽ rất lớn.

Nói đơn giản: AI rất bá đạo và nguy hiểm, nhưng vẫn chưa được nhận thức đầy đủ về mức độ bá đạo và nguy hiểm của nó.