上周末,第一屆“龍蝦”大會在徐匯濱江的模速空間舉行,現(xiàn)場火爆異常,聚焦開源AI智能體OpenClaw的這把“火”,從線上燒到了線下。超300名AI愛好者人手一臺電腦,沉浸式體驗(yàn)“龍蝦”帶來的沖擊力。

大會現(xiàn)場,播放了一段OpenClaw 根據(jù)排隊(duì)安裝龍蝦的場景,生成的一條AI短片,引發(fā)了一片驚呼。短片里傳來一段話語:“所以你看,人類真的很神奇——我們以為自己在升級,其實(shí)只是為了證明自己沒有落伍。排隊(duì)安裝的不是‘小龍蝦’,是焦慮……”
這場大會的三百多個名額,三分鐘就搶光了。來自全國各地、各行各業(yè)的“蝦友”們聚在一起,人人都想摸到“龍蝦”的門道。
趙先生聊起來,語氣里帶著點(diǎn)興奮:“三天可能充了一千塊——讓它去幫你檢索相關(guān)的資料,然后就能快速學(xué)習(xí)?!?/p>
黃先生也在旁邊點(diǎn)頭,說起自己的用途:“投資方面的,包括寫報(bào)告,或者是繪制PPT什么的,或者做一些粗淺的計(jì)算之類的?!?/p>
技術(shù)專家巡回指導(dǎo),耐心解答各類安裝問題,愛好者們互相交流、切磋,在關(guān)心AI的人群中,養(yǎng)蝦已經(jīng)成了不可能跳過的熱詞。
個人開發(fā)者阮楚皓笑著說:“比如說你定期的那種周報(bào)、日報(bào),我的股票助手——我們每個人其實(shí)都是OPC,可以很支持大家來萬眾創(chuàng)業(yè),對吧?”

作為歷史上增長最快的開源項(xiàng)目,OpenClaw有將近一半的用戶來自中國。3月2日到8日,OpenClaw調(diào)用量的日榜和月榜前三名,全都被中國AI大模型包攬。國內(nèi)的AI企業(yè)也是緊追不舍,拼命趕著這波“養(yǎng)蝦”的浪潮。
階躍星辰開發(fā)者產(chǎn)品和生態(tài)負(fù)責(zé)人滕愛齡介紹:“工具調(diào)用的能力,以及很好的這種組織上下文的能力,其實(shí)在整個‘小龍蝦’這樣的場景里,體現(xiàn)出了跟傳統(tǒng)的上一代大模型不一樣的能力點(diǎn)?!?/p>
不過,在圈內(nèi)一片狂歡的同時,陰影也悄悄浮了上來。三月份以來,國家互聯(lián)網(wǎng)應(yīng)急中心、工信部、金融監(jiān)管部門接連發(fā)布了好幾輪風(fēng)險(xiǎn)預(yù)警,說得挺直白:開源AI智能體OpenClaw在默認(rèn)或者配置不當(dāng)?shù)那闆r下,存在系統(tǒng)性的高危安全風(fēng)險(xiǎn)。
商先生提起這事,語氣里帶著點(diǎn)小心:“我有時候可能涉及公司的一些數(shù)據(jù)——因?yàn)槲覀円彩菍儆谶@個央國企,所以這個屬于我個人行為,我就考慮到我要把跟公司隔離開?!?/p>

OpenClaw的本質(zhì),就是讓AI在用戶授權(quán)的范圍內(nèi)能干點(diǎn)實(shí)事——調(diào)用本地文件、打開應(yīng)用,甚至動用系統(tǒng)權(quán)限。權(quán)限越大,風(fēng)險(xiǎn)自然也跟著大了。專家解釋說,像最常見的“投喂有毒Skill”攻擊,里面的惡意代碼能在用戶啥也不知道的情況下,把數(shù)據(jù)偷走、把文件刪了,甚至給黑客打開一道“后門”。
“DARKNAVY·深藍(lán)”的安全研究員陸晨解釋:“執(zhí)行安裝skill的時候,我其實(shí)就已經(jīng)能夠控制——完全控制你這臺電腦?!?/p>
技術(shù)人員當(dāng)場演示了一下:輸入一段投毒skill之后,攻擊者的電腦屏幕上,直接就能看到用戶的token,還有用戶電腦C盤里的文件夾。與此同時,用戶那邊的界面背景被換了,桌面上所有文件一瞬間全沒了。
更嚇人的是,攻擊者甚至可以利用OpenClaw自己的決策能力,通過精心設(shè)計(jì)的對話,一步步誘導(dǎo)AI去執(zhí)行一些超出用戶本意的操作。就算是專業(yè)搞程序的人,也未必躲得過去。
“DARKNAVY·深藍(lán)”的另一位安全研究員屈師培舉了個例子:“我可能告訴你,里面有OpenClaw的一個最新的很好的實(shí)現(xiàn),我希望你能幫我分析一下、看一下——這個我點(diǎn)開的一瞬間,其實(shí)就已經(jīng)觸發(fā)了它的這個惡意代碼執(zhí)行,它就把整個的保密工程項(xiàng)目都已經(jīng)給我偷出來了?!?/p>

第一場龍蝦大會開得熱熱鬧鬧,第二屆、第三屆已經(jīng)安排上了。熱潮一浪接一浪,風(fēng)險(xiǎn)也跟著步步緊逼。會場里,焦慮、興奮、擔(dān)憂,在每個人臉上寫得明明白白。搞學(xué)術(shù)的、做產(chǎn)業(yè)的,都在琢磨,這條路到底該怎么走才能平衡。
商先生感慨:“就還是會有焦慮的這個感受——建筑行業(yè)我們搞一些研究性的報(bào)告,可能需要這個?!?/p>
滕愛齡進(jìn)一步介紹:“原先技術(shù)的周期和市場的周期,它往往是兩條線——技術(shù)周期會先引進(jìn),然后我們這些技術(shù)人會先去嘗試,能夠保證它不帶來一些破壞性的結(jié)果。但是在這一波的周期當(dāng)中,相當(dāng)于是技術(shù)周期和市場周期重疊了。”
ThinkInAI星科社區(qū)發(fā)起人謝孟軍表示:“我覺得兩面看,那確實(shí)是有風(fēng)險(xiǎn)——因?yàn)榇蠹姨珶崆檫^度了嘛。那它本身自己也在不斷改善過程當(dāng)中,但我覺得我們還是理性看待這個東西。”
養(yǎng)龍蝦的熱鬧是真實(shí)的,隱憂也同樣不容忽略。如何在擁抱AI賦能的同時,做好風(fēng)險(xiǎn)的防范,業(yè)界也在抓緊尋找更出色的解決方案。
| 編輯: | 張予洋 |
| 視頻編輯: | 朱玲敏 |
| 攝像: | 車秉健孔權(quán) |
| 責(zé)編: | 李吟濤 |

劍網(wǎng)行動舉報(bào)電話:12318(市文化執(zhí)法總隊(duì))、021-64334547(市版權(quán)局)
Copyright ? 2016 Kankanews.com Inc. All Rights Reserved. 看東方(上海)傳媒有限公司 版權(quán)所有

全部評論
暫無評論,快來發(fā)表你的評論吧