人工智能(AI)浪潮正以前所未有的速度推進(jìn)。這是一個(gè)AI新紀(jì)元，在AI的幫助下，科研的邊界被不斷拓寬，解決復(fù)雜問(wèn)題的速度越來(lái)越快，但必須警惕：AI也能極大提高犯罪分子的“生產(chǎn)力”。

　　安全公司“趨勢(shì)科技”研究員文森佐·錢(qián)卡利尼表示，生成式AI提供了一個(gè)新的、強(qiáng)大的工具包，使惡意行為者能夠比以往更高效、更國(guó)際化地開(kāi)展活動(dòng)。

　　錢(qián)卡利尼說(shuō)，大多數(shù)犯罪分子“并不是生活在黑暗巢穴里密謀行事”，他們中“大多數(shù)都是普通人，從事著日常工作”。

　　去年的“WormGPT衰落”是一個(gè)標(biāo)志性事件。WormGPT是一種基于開(kāi)源模型構(gòu)建的AI語(yǔ)言模型，但它使用惡意軟件相關(guān)數(shù)據(jù)進(jìn)行訓(xùn)練，會(huì)協(xié)助黑客工作且沒(méi)有任何道德規(guī)則或限制。2023年夏天，在引起媒體高度關(guān)注后，該模型的創(chuàng)建者宣布關(guān)閉模型。自那以后，網(wǎng)絡(luò)犯罪分子大多停止開(kāi)發(fā)自己的AI模型，轉(zhuǎn)而借助更可靠的現(xiàn)有工具來(lái)“耍花招”。

　　這可能是因?yàn)椋缸锓肿右蚕敫飓@得收益且不想承擔(dān)新技術(shù)帶來(lái)的未知風(fēng)險(xiǎn)。人們對(duì)此必須多加注意，以下5種就是目前他們最常用的方式。

　　網(wǎng)絡(luò)釣魚(yú)：誘騙你的私人信息

　　瑞士蘇黎世聯(lián)邦理工學(xué)院的AI安全研究員米斯拉夫·巴盧諾維奇表示，目前生成式AI最大的濫用就是網(wǎng)絡(luò)釣魚(yú)，其試圖誘騙人們泄露敏感信息，再用于惡意目的。研究發(fā)現(xiàn)，在ChatGPT興起的同時(shí)，也伴隨著網(wǎng)絡(luò)釣魚(yú)電子郵件數(shù)量大幅增加。

　　錢(qián)卡利尼表示，GoMail Pro等垃圾郵件生成服務(wù)已集成ChatGPT，這使得犯罪用戶能翻譯或改進(jìn)發(fā)送給受害者的消息。OpenAI的政策限制人們用其產(chǎn)品進(jìn)行非法活動(dòng)，但在實(shí)踐中其實(shí)很難監(jiān)管。

　　OpenAI方面表示，他們將人工審核和自動(dòng)化系統(tǒng)相結(jié)合，以識(shí)別和防止其模型被濫用，如果用戶違反公司政策，則會(huì)實(shí)施警告、暫停、永久關(guān)閉等措施。

　　還有一點(diǎn)值得注意，由于AI翻譯工具的進(jìn)步，世界各地犯罪集團(tuán)的溝通變得更容易，他們可能開(kāi)展大規(guī)?？鐕?guó)行動(dòng)，或在本國(guó)對(duì)其他國(guó)家用戶采取惡意行動(dòng)。

　　深度偽造：進(jìn)入地下市場(chǎng)

　　生成式AI使深度偽造(Deepfake)的開(kāi)發(fā)發(fā)生質(zhì)變。當(dāng)前，技術(shù)合成的圖像或音視頻，看起來(lái)或聽(tīng)起來(lái)比以往任何時(shí)候都更加真實(shí)，這一點(diǎn)犯罪分子也意識(shí)到了。

　　錢(qián)卡利尼團(tuán)隊(duì)發(fā)現(xiàn)，已經(jīng)有用戶在電報(bào)(Telegram)等平臺(tái)上展示他們的“深度偽造組合”，并以每張圖片10美元或每分鐘500美元的價(jià)格出售服務(wù)。

　　相較圖片，深度偽造視頻制作起來(lái)更復(fù)雜，而且更容易露出破綻。深度偽造音頻的制作成本低廉，只需幾秒鐘的某人的聲音(例如從社交媒體獲取)，即可生成令人信服的內(nèi)容。

　　這樣的詐騙案例并不鮮見(jiàn)，人們接到親人打來(lái)的求救電話，稱(chēng)自己被綁架并要求交付贖金，結(jié)果卻發(fā)現(xiàn)，打電話的人是個(gè)使用深度偽造語(yǔ)音的騙子。

　　錢(qián)卡利尼建議，親人之間應(yīng)商定一些秘密安全詞并定期更換，這有助于緊急情況下確認(rèn)電話另一端的人的身份。

　　繞過(guò)身份檢查：一個(gè)偽造的“你”

　　犯罪分子濫用AI技術(shù)的另一種方式是繞過(guò)驗(yàn)證系統(tǒng)。

　　一些銀行和加密貨幣交易需驗(yàn)證其客戶是否本人。他們會(huì)要求新用戶在手機(jī)相機(jī)前持身份證拍攝一張自己的照片，但犯罪分子已經(jīng)開(kāi)始在電報(bào)等平臺(tái)上銷(xiāo)售能繞過(guò)這一要求的應(yīng)用程序。

　　他們提供的是偽造或被盜的身份證件，再將深度偽造的圖像強(qiáng)加在真人臉上，以欺騙手機(jī)相機(jī)驗(yàn)證程序。據(jù)錢(qián)卡利尼發(fā)現(xiàn)的一些例子，該服務(wù)的價(jià)格甚至低至70美元。

　　“越獄”式服務(wù)：帶來(lái)危險(xiǎn)輸出

　　如果有人向AI詢問(wèn)如何制造炸彈，那他不會(huì)得到任何有用的答復(fù)。這是因?yàn)榇蠖鄶?shù)AI公司已采取各種保護(hù)措施來(lái)防止模型泄露有害或危險(xiǎn)信息。

　　現(xiàn)在，網(wǎng)絡(luò)犯罪分子不再構(gòu)建自己的AI模型，這種方式既昂貴、耗時(shí)又困難。一種新犯罪趨勢(shì)開(kāi)始出現(xiàn)——“越獄”式服務(wù)。

　　比如上面得不到答案的問(wèn)題，這顯示了模型都有關(guān)于如何使用它們的規(guī)則。但“越獄”允許用戶操縱AI來(lái)生成違反這些政策的輸出。例如，為勒索軟件編寫(xiě)代碼，或生成可在詐騙電子郵件中使用的文本。

　　為了對(duì)抗這些不斷增長(zhǎng)的風(fēng)險(xiǎn)，OpenAI和谷歌等公司需時(shí)時(shí)堵塞可能導(dǎo)致緊急危害的安全漏洞。

　　人肉搜索和監(jiān)視：暴露用戶隱私

　　巴盧諾維奇表示，AI語(yǔ)言模型不僅是網(wǎng)絡(luò)釣魚(yú)的“完美工具”，對(duì)人肉搜索(在線泄露某人的私人身份信息)也是如此。這是因?yàn)锳I語(yǔ)言模型經(jīng)過(guò)大量互聯(lián)網(wǎng)數(shù)據(jù)(包括個(gè)人數(shù)據(jù))的訓(xùn)練， 可推斷出某人位于何處。

　　犯罪分子可能會(huì)讓聊天機(jī)器人假裝是具有側(cè)寫(xiě)經(jīng)驗(yàn)的私家偵探，然后讓它分析受害者所寫(xiě)的文本，并從文本中的小線索推斷出個(gè)人信息。例如，根據(jù)他們上高中的時(shí)間推斷他們的年齡，或者根據(jù)他們?cè)谕ㄇ跁r(shí)提到的地標(biāo)推斷他們的居住地點(diǎn)?；ヂ?lián)網(wǎng)上該人的相關(guān)信息越多，就越容易被識(shí)別。

　　巴盧諾維奇團(tuán)隊(duì)2023年底發(fā)現(xiàn)，大型語(yǔ)言模型，如GPT-4、Llama 2和Claude，已能夠僅從與聊天機(jī)器人的日常對(duì)話中推斷出人們的種族、位置和職業(yè)等敏感信息。理論上，任何能訪問(wèn)這些模型的人，都能以這種方式使用它們。

　　這些服務(wù)的存在，并不直接表明犯罪活動(dòng)的存在，但我們必須看到可供惡意行為者利用的新功能。而防止這些事情發(fā)生的唯一方法就是加強(qiáng)防御。

　　巴盧諾維奇稱(chēng)，對(duì)AI公司來(lái)說(shuō)，應(yīng)完善數(shù)據(jù)保護(hù)；對(duì)個(gè)人來(lái)說(shuō)，提高防范意識(shí)是關(guān)鍵——人們應(yīng)三思而后行，考慮他們?cè)诰W(wǎng)上分享的內(nèi)容，并謹(jǐn)慎決定，自己是否愿意在語(yǔ)言模型中使用他們的個(gè)人信息。