作為打造新質(zhì)生產(chǎn)力的核心引擎，人工智能大模型對(duì)傳統(tǒng)產(chǎn)業(yè)數(shù)轉(zhuǎn)智改、數(shù)實(shí)融合發(fā)揮出巨大的推動(dòng)作用，與此同時(shí)，大模型面臨的惡意操控、內(nèi)容合規(guī)、算法與隱私安全攻擊等問題也日漸凸顯，帶來新的安全風(fēng)險(xiǎn)與挑戰(zhàn)。在這一背景之下，12月17日，360集團(tuán)集結(jié)產(chǎn)業(yè)上下游合作伙伴、科研機(jī)構(gòu)及最終用戶共同在北京成立大模型安全聯(lián)盟，旨在構(gòu)建開放協(xié)作的大模型安全產(chǎn)業(yè)新模式，推進(jìn)產(chǎn)業(yè)生態(tài)的全面融合。

　　關(guān)注大模型存在的安全風(fēng)險(xiǎn)已成為當(dāng)下各界的重要共識(shí)。中國網(wǎng)絡(luò)空間安全協(xié)會(huì)秘書長郝曉偉、中國電子信息產(chǎn)業(yè)發(fā)展研究院黨委副書記胡國棟、360集團(tuán)創(chuàng)始人周鴻祎、360集團(tuán)首席運(yùn)營官葉健，以及生態(tài)伙伴代表，聯(lián)想集團(tuán)副總裁、中國區(qū)首席戰(zhàn)略官、聯(lián)想中國技術(shù)管理委員會(huì)執(zhí)行主席阿不力克木·阿不力米提、騰訊云高級(jí)副總裁徐翊鳴、中國載人航天工程軟件和數(shù)字化中心主任程勝、MiniMax合伙人魏偉、百度智能云泛科技行業(yè)解決方案總監(jiān)栗偉、清華大學(xué)教授黃永峰、北京大學(xué)(臨港)大模型對(duì)齊中心執(zhí)行主任、北京阿萊門科技有限公司首席執(zhí)行官徐驊、隱拓智安創(chuàng)始人、CEO張?zhí)祧蔚瘸鱿闪x式。

　　郝曉偉在致辭中指出，當(dāng)前人工智能安全風(fēng)險(xiǎn)日益凸顯，期待基于此次契機(jī)，打造協(xié)會(huì)與企業(yè)的創(chuàng)新合作模式，共享技術(shù)創(chuàng)新與產(chǎn)業(yè)融合的最新成果，聯(lián)合應(yīng)對(duì)人工智能安全的新問題、新挑戰(zhàn)。360集團(tuán)作為中國網(wǎng)絡(luò)安全空間協(xié)會(huì)的理事單位，始終積極參與并推動(dòng)協(xié)會(huì)相關(guān)工作。此次在協(xié)會(huì)與企業(yè)的緊密協(xié)作下，各方將持續(xù)發(fā)揮自身優(yōu)勢，為打造人工智能先鋒產(chǎn)業(yè)生態(tài)貢獻(xiàn)更多力量。

　　周鴻祎在發(fā)言時(shí)表示，人工智能技術(shù)是一把“雙刃劍”，在帶來自動(dòng)化和先進(jìn)工作生活方式的同時(shí)也帶來很多安全問題，甚至不亞于核武器，是人類有史以來面臨“最大的安全挑戰(zhàn)之一”，遠(yuǎn)超過傳統(tǒng)數(shù)字安全。尤其是包括其他國家的網(wǎng)絡(luò)軍隊(duì)、黑產(chǎn)、灰產(chǎn)的組織者甚至犯罪分子等也可以利用大模型，提升找漏洞、寫攻擊代碼的能力，因此未來網(wǎng)絡(luò)安全可能會(huì)從人與人的對(duì)抗，變成機(jī)器與人的對(duì)抗，再發(fā)展為機(jī)器與機(jī)器的對(duì)抗。

　　在周鴻祎看來，人工智能在提升生產(chǎn)力的同時(shí)，也帶來了包括幻覺、深度偽造、注入攻擊、數(shù)據(jù)污染或投毒等前所未有的安全新挑戰(zhàn)。而隨著大模型在無人駕駛汽車、無人機(jī)、智能機(jī)器人等領(lǐng)域的應(yīng)用日漸廣泛，一旦產(chǎn)生幻覺等安全問題，可能對(duì)個(gè)人、社會(huì)甚至國家安全形成重大隱患。如果安全問題得不到有效的控制和解決，又可能會(huì)讓政府監(jiān)管機(jī)構(gòu)對(duì)人工智能充滿顧慮和疑慮，從而出臺(tái)更多的限制政策，這對(duì)產(chǎn)業(yè)發(fā)展同樣形成挑戰(zhàn)。

　　據(jù)了解，作為兼具數(shù)字安全和AI雙重能力的科技企業(yè)，360很早開始關(guān)注大模型安全風(fēng)險(xiǎn)，并推出一系列有針對(duì)性的創(chuàng)新技術(shù)，包括開發(fā)了國內(nèi)首個(gè)安全大模型，通過“以模制?！崩砟?，利用AI大模型來檢測和防范大模型可能出現(xiàn)的安全風(fēng)險(xiǎn)，既解決傳統(tǒng)網(wǎng)絡(luò)安全問題，又為攻克AI安全新挑戰(zhàn)提供了可行性方案。

　　除宣布聯(lián)盟成立外，360也在成立儀式上推出了一系列大模型安全產(chǎn)品，包括大模型系統(tǒng)安全檢測平臺(tái)“360智鑒”；大模型內(nèi)容安全護(hù)欄“360智盾”；大模型可信增強(qiáng)工具“360智搜”；以及基于“內(nèi)聚知識(shí)，外聯(lián)情報(bào)”理念專為企業(yè)打造的智能知識(shí)管理與應(yīng)用平臺(tái)360智能文檔云3.0，和針對(duì)情報(bào)監(jiān)測與分析提供一站式解決方案的360輿情衛(wèi)士。

　　值得一提的是，成立大模型安全聯(lián)盟并非周鴻祎首度發(fā)起行業(yè)大聯(lián)合行動(dòng)。去年，360發(fā)起成立大模型產(chǎn)業(yè)聯(lián)盟，經(jīng)過一年發(fā)展，成員已突破千家，核心伙伴超400家，覆蓋十幾個(gè)行業(yè)；今年360開放了安全衛(wèi)士、安全瀏覽器、搜索、智能硬件四大AI應(yīng)用場景，聯(lián)合國內(nèi)16家主流大模型廠商，共同開啟國內(nèi)最強(qiáng)“大模型聯(lián)盟”，打造了360AI助手，在多項(xiàng)打分上全面超過GPT-4o。

　　周鴻祎在發(fā)布儀式上表示，組建大模型安全聯(lián)盟的意義在于要解決大模型發(fā)展過程中出現(xiàn)的安全問題，這既需要像360這樣的網(wǎng)絡(luò)安全專家，也需要對(duì)大模型有深入研究的同行。

　　周鴻祎對(duì)聯(lián)盟提出三個(gè)期望：第一，開放性，隨時(shí)歡迎更多的大模型從業(yè)者加入；第二，技術(shù)上互通有無，形成真正保護(hù)大模型的應(yīng)用成果；第三，希望聯(lián)盟能發(fā)出自己的聲音，讓公眾在重視安全的同時(shí)，對(duì)大模型可能犯的一些小錯(cuò)能夠?qū)捜莺屠斫?。周鴻祎認(rèn)為，通過大模型安全聯(lián)盟的組建，如果能提出解決大模型安全問題的中國方案，那么對(duì)全世界的大模型應(yīng)用安全都有意義。