全網(wǎng)都在養(yǎng)“AI龍蝦”，如何筑牢AI智能體安全防線？3月18日，珠海市委網(wǎng)信辦、粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室珠西中心、廣東省數(shù)據(jù)安全與個(gè)人信息保護(hù)協(xié)會(huì)灣區(qū)辦公室等單位聯(lián)合發(fā)布《珠海市“養(yǎng)蝦安全十條”——“龍蝦”安全使用指引》（以下簡稱“養(yǎng)蝦安全十條”），提出“充分認(rèn)識(shí)安全風(fēng)險(xiǎn)”“嚴(yán)格規(guī)范源頭管理”“堅(jiān)持最小權(quán)限原則”等10條“龍蝦”安全使用指引。近期席卷全球的OpenClaw，將人工智能從“能說”的對話時(shí)代，推向“能干”的行動(dòng)時(shí)代。

3月10日以來，國家互聯(lián)網(wǎng)應(yīng)急中心、中央網(wǎng)信辦數(shù)據(jù)與技術(shù)保障中心接連發(fā)布關(guān)于OpenClaw安全應(yīng)用的風(fēng)險(xiǎn)提示，相關(guān)部委平臺(tái)監(jiān)測發(fā)現(xiàn)，部分實(shí)例在默認(rèn)或不當(dāng)配置下存在較高安全風(fēng)險(xiǎn)，極易引發(fā)網(wǎng)絡(luò)攻擊、信息泄露等問題。針對近期OpenClaw（“龍蝦”）引發(fā)的本地開源智能體部署熱潮，在3月18日“金山·智城計(jì)劃”啟動(dòng)活動(dòng)上，珠海市委網(wǎng)信辦、粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室珠西中心、廣東省數(shù)據(jù)安全與個(gè)人信息保護(hù)協(xié)會(huì)灣區(qū)辦公室等單位，聯(lián)合發(fā)布了“養(yǎng)蝦安全十條”，旨在引導(dǎo)各單位和個(gè)人在使用OpenClaw（“龍蝦”）開源智能體等AI工具時(shí)筑牢安全防線。珠海市委網(wǎng)信辦副主任林新鋒指出，人工智能的普及必須堅(jiān)持高質(zhì)量發(fā)展與高水平安全良性互動(dòng)。他強(qiáng)調(diào)，各單位和個(gè)人在部署AI工具時(shí)，需嚴(yán)格規(guī)范源頭管理、堅(jiān)持最小權(quán)限原則、強(qiáng)化數(shù)據(jù)安全保護(hù)。

安全十條指引

此次發(fā)布“養(yǎng)蝦安全十條”，旨在為AI技術(shù)與實(shí)體經(jīng)濟(jì)的深度融合營造健康、有序的發(fā)展環(huán)境。“養(yǎng)蝦安全十條”涵蓋安全風(fēng)險(xiǎn)認(rèn)知、源頭管理、權(quán)限管控、網(wǎng)絡(luò)防護(hù)、插件管理、數(shù)據(jù)保護(hù)、日志留存、新型風(fēng)險(xiǎn)防范、協(xié)同共治及有序發(fā)展十大核心內(nèi)容，明確要求使用者從官方渠道獲取工具版本、堅(jiān)持最小權(quán)限原則、加強(qiáng)網(wǎng)絡(luò)暴露管控、規(guī)范第三方插件使用，強(qiáng)化API密鑰等敏感信息保護(hù)，落實(shí)操作日志留存，警惕提示詞注入等新型安全風(fēng)險(xiǎn)。

同時(shí)，“十條”鼓勵(lì)行業(yè)組織、科研機(jī)構(gòu)及安全企業(yè)加強(qiáng)技術(shù)交流，支持漏洞研究者依法報(bào)送安全漏洞，并支持各單位在筑牢安全底線的前提下，探索AI工具在辦公輔助、數(shù)據(jù)處理等場景的合理應(yīng)用，助力人工智能與實(shí)體經(jīng)濟(jì)健康融合發(fā)展。（來源：珠海市互聯(lián)網(wǎng)信息辦公室）