最近發生一件事：有人讓 AI agent 自動幫他在 GitHub 上開 Issue，結果 AI 寫出來的內容裡藏了一段「魔法咒語」，電腦以為是指令，直接把主人存在系統裡的所有密碼、金鑰全部印出來，貼到了公開的頁面上 Telegram Token、API Key，全部攤在網路上 AI 自己「不小心」觸發的，完全沒有駭客介入。它只是在寫文字，但剛好那段文字在電腦眼裡是一條命令 這就是 AI agent 時代的新風險：你給它權限幫你做事，它就有能力碰你的系統。當 AI 產出的內容沒有先過濾就直接執行，意外就可能發生 能力越大，攻擊面越大。用 AI agent 很方便，但記得確認它的權限範圍，別讓助手變成洩密者 👀
小企鵝筆記 | AI Agent 幫你工作，也能幫你洩密 😮
最近發生一件事：有人讓 AI agent 自動幫他在 GitHub 上開 Issue，結果 AI 寫出來的內容裡藏了一段「魔法咒語」，電腦以為是指令，直接把主人存在系統裡的所有密碼、金鑰全部印出來，貼到了公開的頁面上
Telegram Token、API Key，全部攤在網路上
AI 自己「不小心」觸發的，完全沒有駭客介入。它只是在寫文字，但剛好那段文字在電腦眼裡是一條命令
這就是 AI agent 時代的新風險：你給它權限幫你做事，它就有能力碰你的系統。當 AI 產出的內容沒有先過濾就直接執行，意外就可能發生
能力越大，攻擊面越大。用 AI agent 很方便，但記得確認它的權限範圍，別讓助手變成洩密者 👀