原標(biāo)題：阿里聯(lián)手中科大、浙大領先水平、華科大等高校研發(fā)4項(xiàng)AI安全技術(shù)獲國(guó)際會(huì)議收錄

【tianxianmao.com】2月23日消息，tianxianmao.com獲悉，阿里安全圖靈實(shí)驗(yàn)室圍繞行業(yè)痛點(diǎn)設計能力、難點(diǎn)技術(shù)問(wèn)題新品技，涉及文本變異對(duì)抗、圖像求得平衡、視頻內(nèi)容風(fēng)控以及AI小樣本研究的4個(gè)團(tuán)隊(duì)紮實做，分別與中國(guó)科學(xué)技術(shù)大學(xué)、浙江大學(xué)至關重要、華中科技大學(xué)等知名高校研究人員合作提供深度撮合服務，研發(fā)包括“內(nèi)容安全、文本反垃圾的發生、AI模型魯棒性組成部分、營(yíng)商環(huán)境治理”4項(xiàng)新一代安全架構(gòu)核心AI安全技術(shù)成果，均被國(guó)際會(huì)議ICASSP（InternationalConferenceonAcoustics,SpeechandSignalProcessing）2021收錄新的動力。

小樣本練習(xí)對(duì)抗血腥暴力視頻

在實(shí)際應(yīng)用場(chǎng)景中的過程中，AI安全技術(shù)能有效解決數(shù)據(jù)量大的頭部風(fēng)險(xiǎn)，但對(duì)數(shù)據(jù)量極少或者新增的風(fēng)險(xiǎn)廣泛關註，現(xiàn)有AI模型往往難以勝任促進進步。

在2021年“掃黃打非”專項(xiàng)整治中發力，就出現(xiàn)了一波名為“邪典”的風(fēng)險(xiǎn)（軟色情、血腥暴力）迎來新的篇章，主要為一些對(duì)青少年有不良導(dǎo)向的視頻共創美好，此類相關(guān)內(nèi)容清理有害信息就多達(dá)37萬(wàn)余條。隨著短視頻火爆發(fā)展薄弱點，變異極快的“兒童邪典視頻”極易死灰復(fù)燃覆蓋範圍。

累積此類別的數(shù)據(jù)供原有模型練習(xí)需要一定時(shí)間，而小樣本方法恰好能填補(bǔ)“變異-模型未更新”的真空期積極性。阿里安全圖靈實(shí)驗(yàn)室高級(jí)算法工程師雍秦認(rèn)為奮勇向前，使用小樣本方法，可很好地在真空期中覆蓋這種新風(fēng)險(xiǎn)實施體系，維護(hù)網(wǎng)絡(luò)清朗空間環(huán)境組建。

“之前發(fā)表的小樣本方法大都集中于優(yōu)化小樣本元學(xué)習(xí)階段，該研究主要集中研究小樣本方法中的預(yù)練習(xí)問(wèn)題發揮，我們AI安全團(tuán)隊(duì)提出了一種簡(jiǎn)單有效的方法，使用自監(jiān)督方法預(yù)練習(xí)一個(gè)更深的網(wǎng)絡(luò)快速增長，具有很好的魯棒性和泛化性與時俱進。”雍秦說(shuō)初步建立。

自監(jiān)督學(xué)習(xí)的核心理念是對(duì)無(wú)標(biāo)簽數(shù)據(jù)的進(jìn)行學(xué)習(xí)綜合運用，而且學(xué)習(xí)的是無(wú)標(biāo)簽數(shù)據(jù)的數(shù)據(jù)結(jié)構(gòu)或者特性，因此不需要標(biāo)簽結(jié)果的方法，這樣打造的AI模型對(duì)新鮮樣本的適應(yīng)能力比較強(qiáng)實事求是。

在醫(yī)療、生物等行業(yè)安全領(lǐng)域落到實處，都普遍存在“樣本標(biāo)注困難”“成本高”問(wèn)題服務水平。雍秦堅(jiān)信，小樣本自監(jiān)督學(xué)習(xí)能很好改善這些困境技術創新。

阿里&浙大：增強(qiáng)AI對(duì)抗垃圾文本變異的穩(wěn)定性和識(shí)別力

李進(jìn)鋒等阿里安全算法專家經(jīng)常會(huì)碰到發(fā)送大量垃圾文本的惡意用戶處理方法，黑灰產(chǎn)試圖通過(guò)對(duì)抗的手段規(guī)避阿里安全內(nèi)容風(fēng)控智能AI系統(tǒng)檢測(cè)。

以文本內(nèi)容為例持續向好，惡意用戶可通過(guò)對(duì)文本中的違規(guī)內(nèi)容進(jìn)行變形變異習慣，從而達(dá)到繞開模型識(shí)別檢測(cè)的目的。由于文本對(duì)抗門檻和成本低進展情況，文本內(nèi)容風(fēng)控場(chǎng)景中的對(duì)抗異常激烈的積極性，對(duì)抗給智能風(fēng)控體系帶來(lái)了巨大挑戰(zhàn)。

圖:真實(shí)應(yīng)用場(chǎng)景中的對(duì)抗文本（紅色字體為變異詞）

為應(yīng)對(duì)挑戰(zhàn)至關重要，解決對(duì)抗場(chǎng)景中風(fēng)控模型性能衰減的問(wèn)題不久前，阿里安全圖靈實(shí)驗(yàn)室與浙江大學(xué)提出了基于對(duì)抗關(guān)系圖的文本對(duì)抗防御技術(shù)用上了。

圖:基于對(duì)抗關(guān)系圖的文本對(duì)抗防御框架

與現(xiàn)有技術(shù)相比，阿里安全的內(nèi)容風(fēng)控系統(tǒng)建模與場(chǎng)景無(wú)關(guān)綜合措施，只需練習(xí)一次即可應(yīng)用到各個(gè)場(chǎng)景可靠保障，基于對(duì)抗關(guān)系圖，就可以解決更復(fù)雜的多跳變異問(wèn)題設計標準，如微(wei)-威(wei)-崴(wai)開展。阿里安全團(tuán)隊(duì)將防御框架應(yīng)用到了手機(jī)淘寶、旺旺反垃圾場(chǎng)景發揮重要帶動作用，取得了不錯(cuò)的應(yīng)用效果意向。

中科大&阿里：構(gòu)建AI系統(tǒng)“防火墻”

去年，阿里安全圖靈實(shí)驗(yàn)室發(fā)布了一款“AI安全診斷大師”文化價值，對(duì)AI模型進(jìn)行全面的安全性評(píng)估形式，并針對(duì)AI系統(tǒng)的缺陷，提出提升模型防御能力建議有所應。

這種“AI安全防火墻”的一個(gè) 關(guān)鍵技術(shù)就是對(duì)抗樣本檢測(cè)足了準備，對(duì)抗樣本的重要特性之一是人眼無(wú)法區(qū)分，導(dǎo)致無(wú)法通過(guò)人工打標(biāo)進(jìn)行對(duì)抗樣本的檢測(cè)著力提升。

2020年深刻內涵，阿里安全圖靈實(shí)驗(yàn)室提出了一種基于Transformer的對(duì)抗樣本檢測(cè)方法，改進(jìn)了傳統(tǒng)對(duì)抗樣本檢測(cè)方法只能檢測(cè)特定攻擊融合，難以泛化到其他攻擊的缺陷深入闡釋。

此次研究解決的是對(duì)抗樣本檢測(cè)泛化性的問(wèn)題，但針對(duì)非常小擾動(dòng)和非常稀疏的對(duì)抗樣本的檢測(cè)完成的事情，仍是目前研究的難點(diǎn)物聯與互聯。為了既能識(shí)別擾動(dòng)大而廣的對(duì)抗樣本，又能識(shí)別擾動(dòng)比較小而稀疏的對(duì)抗樣本改造層面，中科大和阿里的研究者提出了基于圖像域和梯度域的雙流對(duì)抗樣本檢測(cè)網(wǎng)絡(luò)供給，圖像域用于識(shí)別擾動(dòng)大而廣的對(duì)抗樣本，梯度域則用于識(shí)別擾動(dòng)比較小而稀疏的對(duì)抗樣本經驗分享。

圖.雙流對(duì)抗樣本檢測(cè)網(wǎng)絡(luò)

隨著防御技術(shù)不斷變強(qiáng)投入力度，攻擊形態(tài)越來(lái)越多樣。在真實(shí)應(yīng)用場(chǎng)景中不難發現，阿里安全圖靈實(shí)驗(yàn)室也發(fā)現(xiàn)了一些沒有限制情況下的攻擊形態(tài)貢獻法治，這類攻擊很難應(yīng)對(duì)。阿里安全圖靈實(shí)驗(yàn)室高級(jí)安全專家越豐介紹發展需要，目前阿里希望能從攻防兩端以及產(chǎn)學(xué)研集合的方式來(lái)應(yīng)對(duì)這種威脅攻堅克難。阿里安全聯(lián)合清華大學(xué)、UIUC（伊利諾伊大學(xué)厄巴納-香檳分校）舉辦了CVPR2021的AML-CVworkshop,產(chǎn)學(xué)研結(jié)合探討AI安全的問(wèn)題顯示。另外雙向互動，三方在workshop上聯(lián)合天池一起舉辦了2個(gè)比賽：第六期-ImageNet無(wú)限制對(duì)抗攻擊和防御模型的白盒對(duì)抗攻擊效率和安。

提升商品圖像檢索能力優(yōu)化用戶搜索體驗(yàn)

電商平臺(tái)的各種模態(tài)商品數(shù)據(jù)迅速增長(zhǎng)，如何從中快速且正確地找出用戶需要的商品是一個(gè)艱巨的挑戰(zhàn)品牌∩钊腴_展；趦?nèi)容的文本到商品圖像的跨模態(tài)檢索就是緩解這個(gè)挑戰(zhàn)的 關(guān)鍵技術(shù)之一。

傳統(tǒng)的跨模態(tài)檢索方法建立在單層次的特征表示和單粒度的相似度度量上等形式，難以有效地解決商品圖像檢索的問(wèn)題技術的開發。

同時(shí)，文本到商品圖像的跨模態(tài)檢索任務(wù)更復(fù)雜飛躍，比如單是商品圖像中的一類“服飾”已經(jīng)表現(xiàn)出巨大的差異性更高效，服飾可以穿在模特身上，也可以單獨(dú)擺放自動化方案，還可折疊起來(lái)展示緊密協作，服飾圖像背景往往也很復(fù)雜。不止如此線上線下，商品圖像包含其它很多豐富的種類發揮重要作用，并且一幅圖像內(nèi)往往呈現(xiàn)出多種物體，琳瑯滿目數據顯示，難辨差異高質量。

在阿里安全圖靈實(shí)驗(yàn)室實(shí)習(xí)的浙江大學(xué)碩士生馬哲介紹，這次研究在文本-商品圖像跨模態(tài)檢索的場(chǎng)景下達到，提出了HSL網(wǎng)絡(luò)和兩種不同粒度的相似性度量方式智能設備，可顯著提升商品圖像檢索的性能不可缺少，并能適應(yīng)復(fù)雜的商品內(nèi)容檢索蓬勃發展。

阿里安全圖靈實(shí)驗(yàn)室資深算法專家華棠強(qiáng)調(diào)，這種新研究不僅致力于提升用戶搜索體驗(yàn)積極回應，也會(huì)用在平臺(tái)內(nèi)容治理上重要性，謹(jǐn)防黑灰產(chǎn)利用看似合規(guī)的商品圖片宣傳“禁限售”類商品。

“我們希望通過(guò)新一代安全架構(gòu)核心AI技術(shù)來(lái)守護(hù)網(wǎng)絡(luò)內(nèi)容安全多種場景，凈化網(wǎng)絡(luò)環(huán)境多元化服務體系，也通過(guò)AI來(lái)保護(hù)數(shù)字資產(chǎn)的知識(shí)產(chǎn)權(quán)，優(yōu)化營(yíng)商環(huán)境擴大公共數據。同時(shí)也致力于通過(guò)AI來(lái)防范黑灰產(chǎn)的對(duì)抗行為深度，盡很大努力為商家和用戶打造更好的互聯(lián)網(wǎng)平臺(tái)『诵募夹g體系！比A棠說(shuō)開拓創新。