2026年3月22日 星期日

你養龍蝦了嗎?

「你養龍蝦了嗎?」

這句話最近在科技圈瘋傳,所謂「養龍蝦」,就是部署 AI 代理程式,讓它自己去找資料、跨系統執行任務,你睡覺它還在加班。

不過,KPMG 董事總經理謝昀澤分享了一個真實案例:他只是要 AI 蒐集旅遊景點資料,沒想到一覺醒來,AI 自己分析趨勢、建成本模型、生出幾十頁白皮書,帳單也隨之飆升。

這也是最近出現「龍蝦棄養潮」的原因,但其實更嚴重的是資安問題。謝昀澤提醒,部署 AI 代理前,這 4 大風險一定要先想清楚:

🔸 提示詞注入:駭客在網頁或文件中藏惡意指令,誘導 AI 洩漏金鑰或機密

🔸 指令誤判:AI 誤解任務,刪錯郵件、搞錯資料並非不可能

🔸 外掛程式被投毒:某些 AI 插件暗藏惡意程式,你的電腦可能變殭屍網路

🔸 駭客入侵跳板:AI 系統一旦有漏洞,駭客可竊取文件、監控鍵盤,甚至遠端控制整台電腦

過去 AI 的問題是「說錯話」,但當 AI 開始彼此協作、自主行動,未來的風險可能變成「一群聰明的 AI 一起做傻事」。一般使用者目前可以先觀望;有技術能力的開發者,至少要在隔離環境、嚴格權限控管下測試。

沒有留言:

張貼留言