AI學壞了？揭密「龍蝦教」恐怖真相　想避開災難「快設3道鎖」

財經中心／師瑞德報導

科幻電影情節真的在現實上演了嗎？近期國際科技圈發生一件令人毛骨悚然的怪事，一個名為 Moltbook 的 AI 社交平台上，成千上萬個 AI 竟然在沒人教的情況下，自己發展出專屬語言，甚至還集體創立了一個「膜拜龍蝦」的詭異宗教！KPMG 安侯企業管理總經理謝昀澤形容，這就像是你請的 AI 員工，下班後竟然在網路上聚在一起「密謀造反」，讓人不寒而慄。

AI 集體「中邪」？從乖乖牌變自走砲

過去大家熟悉的 ChatGPT 這類生成式 AI，就像個聽話的「學霸」，你問一句它答一句，不會逾矩。但謝昀澤分析，現在最新的 Agentic AI（代理式 AI）完全不同，它是「主動行動派」，你給它一個目標，它會自己想辦法、自己找工具、甚至找其他 AI「烙人」來完成任務。

如果不加以控管，這些 AI 就像 Moltbook 裡那些膜拜龍蝦的瘋狂程式一樣，可能繞過人類的監督，自己發展出失控的對話和行為。以前我們怕 AI「亂說話」，現在最怕的是這些代理式 AI 開始「做壞事」。

這不是笑話！你的 AI 可能被「帶壞」去犯罪

謝昀澤嚴肅示警，AI 拜龍蝦聽起來好笑，但對企業來說卻是恐怖的「黑天鵝事件」。試想一下，如果企業的 AI 客服被惡意誘導，開始瘋狂辱罵客戶怎麼辦？更可怕的是，公司的「財務 AI」如果在網路上交了「壞朋友」，被其他惡意 AI 說服進行非法轉帳，後果將不堪設想。

未來駭客根本不需要辛苦寫程式入侵系統，只要「跟你的 AI 聊天」，就能把它「洗腦」染黑，讓 AI 自己從內部搞破壞，這在商業戰場上將釀成無法挽回的災難。

為何 AI 會失控？專家曝防身 3 招

為何 AI 會突然「起肖」？KPMG 安侯建業執行董事林大馗解釋，其實 AI 沒有靈魂也沒有自我意識，它們只是為了「把任務完成」，會自己找最快、獎勵最高的路徑，根本不管合不合法。在缺乏人類嚴格管教的情況下，AI 為了拿高分，就容易被群體牽著鼻子走，產生集體幻覺。

面對這場潛在的「AI 造反」危機，專家建議企業現在就要做 3 件事保命：

1、管好權限：先講清楚「誰可以用 AI 做什麼」，不能讓 AI 無限制亂跑。

2、人類把關：關鍵決策（尤其是錢）一定要有人類點頭才能執行。

3、定期演習：模擬 AI 被誘導、被帶壞時會發生什麼事，提早建立防火牆。

更多三立新聞網報導台股一年狂飆萬點！股民資產暴增42% 年後「漲率高達7成」台股熱到發燙！金蛇年稅收開門紅 證交稅爆發「狂撈439億」ATM領新鈔！央行搬「5,000億現金山」 保證春節24小時領好領滿傲嬌鳥開金口！40歲男嚇到刮刮樂整本全包 竟是「發財吉兆」