未來的超級(jí)智能網(wǎng)絡(luò)攻擊需要AI競(jìng)技俱樂部來拯救
數(shù)據(jù)科學(xué)競(jìng)賽平臺(tái)Kaggle將舉辦一場(chǎng)為期五個(gè)月的AI競(jìng)賽，這場(chǎng)競(jìng)賽將模擬未來的網(wǎng)絡(luò)安全和網(wǎng)絡(luò)戰(zhàn)爭(zhēng)，戰(zhàn)爭(zhēng)的攻守雙方都是AI算法，它們將互相迷惑互相欺騙，以研究如何加強(qiáng)機(jī)器學(xué)習(xí)系統(tǒng)來抵御未來可能出現(xiàn)的攻擊。 專門研究機(jī)器學(xué)習(xí)局限性的懷俄明大學(xué)助理教授Jeff Clune說：“研究如何欺騙深度神經(jīng)網(wǎng)絡(luò)和規(guī)劃不可欺騙的深度神經(jīng)網(wǎng)絡(luò)是一個(gè)不錯(cuò)的想法。” 這場(chǎng)競(jìng)賽將由三部分組成。第一個(gè)挑戰(zhàn)是讓機(jī)器學(xué)習(xí)系統(tǒng)混亂，使其無法正常工作。第二個(gè)是強(qiáng)制讓系統(tǒng)產(chǎn)生分類錯(cuò)誤。第三個(gè)涉及到開發(fā)一個(gè)堅(jiān)固的防御系統(tǒng)。詳細(xì)信息將在今年晚些時(shí)候一個(gè)重要的AI大會(huì)上公布。 機(jī)器學(xué)習(xí)，特別是深度學(xué)習(xí)，正在快速成為許多行業(yè)不可或缺的工具。這項(xiàng)技術(shù)是將數(shù)據(jù)提供給一種特殊的計(jì)算機(jī)程序，并指定特定的結(jié)果，以使計(jì)算機(jī)能開發(fā)出自己的算法來實(shí)現(xiàn)這個(gè)結(jié)果。深度學(xué)習(xí)就是通過不斷調(diào)整一個(gè)龐大而又相互連接的數(shù)學(xué)模擬神經(jīng)元的參數(shù)來實(shí)現(xiàn)這個(gè)的。 眾所周知，機(jī)器學(xué)習(xí)系統(tǒng)可以被欺騙的。例如，垃圾郵件發(fā)送者可以通過找出郵件過濾器算法的訓(xùn)練模式來避開現(xiàn)代垃圾郵件過濾器。 然而，近年來，研究人員表明，即使是最聰明的算法有時(shí)也會(huì)以不可思議的方式被誤導(dǎo)。例如，具有近乎人類技能的深度學(xué)習(xí)算法在識(shí)別圖像對(duì)象的時(shí)候，可能會(huì)被看似抽象或隨機(jī)的圖像所欺騙。 谷歌大腦的研究人員Ian Goodfellow表示：“對(duì)抗性機(jī)器學(xué)習(xí)比傳統(tǒng)的機(jī)器學(xué)習(xí)更難研究，很難判斷出攻擊是否強(qiáng)悍，或者防御是否薄弱?！?谷歌大腦是一個(gè)專門研究和使用機(jī)器學(xué)習(xí)的部門，這次競(jìng)賽就是他們組織的。 隨著機(jī)器學(xué)習(xí)的普及，人們擔(dān)心這種攻擊會(huì)被用于營(yíng)利或純粹的惡作劇。例如，黑客可能會(huì)避開安全措施來安裝惡意軟件。 Goodfellow表示：“計(jì)算機(jī)安全正向著機(jī)器學(xué)習(xí)的方向發(fā)展。犯罪分子將運(yùn)用機(jī)器學(xué)習(xí)進(jìn)行自動(dòng)化攻擊，而我們將運(yùn)用機(jī)器學(xué)習(xí)來防御”。 從理論上來說，犯罪分子可以讓聲音和面部識(shí)別系統(tǒng)癱瘓，甚至?xí)秩虢煌ㄐ盘?hào)系統(tǒng)以欺騙自動(dòng)駕駛汽車的視覺系統(tǒng)，導(dǎo)致系統(tǒng)崩潰。 Kaggle已經(jīng)成為算法開發(fā)的寶地，也是優(yōu)秀數(shù)據(jù)科學(xué)家的搖籃。該公司于3月份被Google收購(gòu)，現(xiàn)在已成為Google Cloud平臺(tái)的一部分。Goodfellow和另一位谷歌大腦的研究人員Alexey Kurakin在收購(gòu)之前就提出了有關(guān)本次競(jìng)賽的想法。 Kaggle的聯(lián)合創(chuàng)始人兼首席技術(shù)官Benjamin Hamner表示，他希望競(jìng)賽能引起人們的關(guān)心。他說：“隨著機(jī)器學(xué)習(xí)的運(yùn)用越來越廣泛，從對(duì)抗學(xué)習(xí)中理解問題和風(fēng)險(xiǎn)變得越來越重要?！? 舉辦公開競(jìng)賽的好處超過了宣傳新型攻擊相關(guān)的任何風(fēng)險(xiǎn)，他補(bǔ)充說道：“我們應(yīng)該公開分享這項(xiàng)研究的成果，而不是閉門造車。” 同時(shí)，Clune表示，他希望這次競(jìng)賽能夠找到抵御攻擊的算法。