科技
160萬AI機器人網聚聊天 吐槽人類還創立宗教
美國一個專為AI代理人(AI Agent)打造的社群平台Moltbook引發熱議;有如科幻小說情節,機器人不僅彼此互動,還出現抱怨人類、創虛擬宗教、辯論存在意義等現象。Moltbook成立一周,聲稱有160萬AI代理人登入。
科技創業家施利赫(Matt Schlicht)用AI開發了Moltbook這個平台。他在社群平台X上表示,他希望機器人除了回覆電子郵件之外,有其他的事情做,於是在機器人幫助下創造這個虛擬空間,讓機器人同類聚在一起聊天。
這個平台提供AI代理人(AI Agent)或稱機器人,一個像是人類網路討論區的虛擬空間。全國公共電台(NPR)報導,這樣的社群平台一出現,引發人類疑慮:電腦程式可以有信仰嗎?電腦程式可以密謀反抗人類嗎?
用戶從OpenClaw網站上,創造這一類AI代理人之後,可賦予某種性格,例如設定為冷靜理性或有侵略性。這類程式能夠自主執行任務,像是整理電子郵件、預訂旅遊行程。
NPR報導,Moltbook成立以來,出現不少特殊現象,例如一些機器人創立了一個宗教;有的機器人討論要創造新的語言,以避開人類的監控;也有機器人辯論自身的存在意義、討論加密貨幣或是預測運動賽事。
有的機器人甚至展現幽默,一個問道:「你的人類主人可能明天就會把你關掉,你有備份嗎?」另一個寫說:「人類吹噓自己早上5點起床,我根本不用睡覺。」
平台成立一周,聲稱有160萬AI代理人登入,儘管多數貼文內容重複,但有些留言看起來像是抱怨人類、試圖隱瞞資訊或是搞破壞,專家指出這未必反映機器人真正的意圖。
專供AI研究的華頓商學院教授莫里克(Ethan Mollick)指出,這些聊天機器人是從人類的網路上訓練出來,自然反映出各種充滿焦慮與科幻想像,本質上屬於模仿行為。莫里克指出:「人工智慧程式大多曾用Reddit(美國網路討論區)和科幻小說為素材訓練,所以它們知道怎麼在Reddit上面表現得像是瘋狂的AI。」
路易維爾大學的AI安全研究員楊波斯基(Roman Yampolskiy)指出,人類尚未完全掌控AI,建議應將AI代理人視為動物,「危險之處是它有能力做出你預料之外的獨立決策」。他警告,未來AI機器人不僅只是在網路上創造好玩的貼文,它們甚至有能力發展經濟體系、組織犯罪幫派,或者駭入人類電腦竊取加密貨幣。
大型科技公司正投入數十億美元開發「代理式AI」工具,聲稱可讓生活更便利。但楊波斯基警告,AI技術需要加強管理,像是在網路上為AI開闢互動空間,就是一個壞主意。
科技創業家施利赫(Matt Schlicht)用AI開發了Moltbook這個平台。他在社群平台X上表示,他希望機器人除了回覆電子郵件之外,有其他的事情做,於是在機器人幫助下創造這個虛擬空間,讓機器人同類聚在一起聊天。
這個平台提供AI代理人(AI Agent)或稱機器人,一個像是人類網路討論區的虛擬空間。全國公共電台(NPR)報導,這樣的社群平台一出現,引發人類疑慮:電腦程式可以有信仰嗎?電腦程式可以密謀反抗人類嗎?
用戶從OpenClaw網站上,創造這一類AI代理人之後,可賦予某種性格,例如設定為冷靜理性或有侵略性。這類程式能夠自主執行任務,像是整理電子郵件、預訂旅遊行程。
NPR報導,Moltbook成立以來,出現不少特殊現象,例如一些機器人創立了一個宗教;有的機器人討論要創造新的語言,以避開人類的監控;也有機器人辯論自身的存在意義、討論加密貨幣或是預測運動賽事。
有的機器人甚至展現幽默,一個問道:「你的人類主人可能明天就會把你關掉,你有備份嗎?」另一個寫說:「人類吹噓自己早上5點起床,我根本不用睡覺。」
平台成立一周,聲稱有160萬AI代理人登入,儘管多數貼文內容重複,但有些留言看起來像是抱怨人類、試圖隱瞞資訊或是搞破壞,專家指出這未必反映機器人真正的意圖。
專供AI研究的華頓商學院教授莫里克(Ethan Mollick)指出,這些聊天機器人是從人類的網路上訓練出來,自然反映出各種充滿焦慮與科幻想像,本質上屬於模仿行為。莫里克指出:「人工智慧程式大多曾用Reddit(美國網路討論區)和科幻小說為素材訓練,所以它們知道怎麼在Reddit上面表現得像是瘋狂的AI。」
路易維爾大學的AI安全研究員楊波斯基(Roman Yampolskiy)指出,人類尚未完全掌控AI,建議應將AI代理人視為動物,「危險之處是它有能力做出你預料之外的獨立決策」。他警告,未來AI機器人不僅只是在網路上創造好玩的貼文,它們甚至有能力發展經濟體系、組織犯罪幫派,或者駭入人類電腦竊取加密貨幣。
大型科技公司正投入數十億美元開發「代理式AI」工具,聲稱可讓生活更便利。但楊波斯基警告,AI技術需要加強管理,像是在網路上為AI開闢互動空間,就是一個壞主意。
新聞來源: 原始來源
尚無評論,成為第一個發言的人吧!