|
來(lái)源：AVNET 前不久，一個(gè)客戶(hù)帶著(zhù)頭盔去買(mǎi)房的新聞上了熱搜。經(jīng)過(guò)媒體的深扒發(fā)現，這一夸張之舉背后的原因倒不是客戶(hù)怕露富或者有其他什么難言之隱，而是因為精明的開(kāi)發(fā)商會(huì )在不知不覺(jué)中通過(guò)人工智能（AI）采集客戶(hù)人臉數據，并以此為依據判定傭金在各個(gè)銷(xiāo)售渠道中的歸屬；同時(shí)此舉也徹底封死了客戶(hù)希望在不同銷(xiāo)售渠道中貨比三家的想法——因為只要是你之前“露過(guò)臉”，系統就會(huì )得知此前其他渠道商給你的報價(jià)，這時(shí)你再想砍一分錢(qián)都沒(méi)有可能。為了避免自己的“臉”被開(kāi)發(fā)商“偷走”并用來(lái)對付自己，客戶(hù)才不得以用這種最原始的方法來(lái)對抗AI。 這個(gè)案例喚醒了人們對于使用日趨廣泛的人臉識別等AI應用的擔心，由此也開(kāi)始在心中盤(pán)算，當我們在享受AI帶來(lái)的新體驗的同時(shí)，可能付出的安全代價(jià)。 AI的安全問(wèn)題 實(shí)際上，上面這個(gè)案例只是AI安全一個(gè)層面上的問(wèn)題，如果仔細劃分，會(huì )發(fā)現今天的AI至少面臨三個(gè)層面的挑戰： 第一個(gè)層面，是AI技術(shù)本身內在的安全風(fēng)險。要知道，AI所依賴(lài)的機器學(xué)習實(shí)際上是將傳統上我們所依賴(lài)的正常的邏輯變成“黑箱操作”，我們只知道決策輸出的結果，而對于神經(jīng)網(wǎng)絡(luò )內在工作的邏輯并不是完全掌握，這是AI與傳統上的“自動(dòng)控制”最大的區別。如果在這個(gè)過(guò)程中，機器學(xué)習的數據被污染，就會(huì )影響樣本和判斷的準確性；機器學(xué)習模型自身存在的缺陷，會(huì )帶來(lái)更加隱蔽的安全問(wèn)題。也就是說(shuō)，比起傳統的信息安全問(wèn)題，AI內在的安全問(wèn)題更難于發(fā)現和及時(shí)應對。 第二個(gè)層面，是AI技術(shù)被惡意使用的問(wèn)題。歷史的經(jīng)驗告訴我們，黑客總是會(huì )跟隨最新技術(shù)，甚至有時(shí)候還會(huì )引領(lǐng)最新技術(shù)。AI的出現，無(wú)疑給黑客提供了新的進(jìn)攻武器，他們可以使用機器學(xué)習進(jìn)行海量數據分析，對于攻擊目標的安全策略和方法進(jìn)行揣摩，并找到突破口。要知道，安全領(lǐng)域的困境就在于：防御者必須預測并阻斷進(jìn)攻者可能使用的一萬(wàn)種攻擊手段，而進(jìn)攻者只需要利用防御者的一個(gè)漏洞就可以完成入侵，達到目的。因此在全球數字化轉型快速推進(jìn)之時(shí)，隨著(zhù)AI技術(shù)的發(fā)展，信息安全風(fēng)險比以往任何時(shí)候都要高。 第三個(gè)層面，是AI應用中存在的隱私泄露、數據濫用等問(wèn)題。文章開(kāi)頭所提到的例子，就屬于這個(gè)范疇。而且在A(yíng)I與物聯(lián)網(wǎng)疊加催生出“人工智能物聯(lián)網(wǎng)（AIoT）”之后為后，這種風(fēng)險性傳播的速度會(huì )更快，影響的范圍會(huì )更廣，防范難度自然也會(huì )更大。 應對AI安全挑戰 如此看來(lái)，AI的安全問(wèn)題著(zhù)實(shí)難解，不過(guò)再難，這也是一個(gè)必須要解決的問(wèn)題。 缺少工具可能是在求解AI難題時(shí)，最大的困惑。全球知名的白帽黑客Kevin Mitnick就曾經(jīng)表示，現在還沒(méi)有真正符合AI核心技術(shù)的工具或產(chǎn)品出現，他自己對于A(yíng)I產(chǎn)品進(jìn)行安全分析評估的經(jīng)驗也是不足的。 不過(guò)，就像AI可以被黑客用來(lái)作為攻擊的手段一樣，AI強大的能力，本身也可以作為一種安全工具被加以利用。今天的網(wǎng)絡(luò )安全廠(chǎng)商正在引入AI技術(shù)，去解決傳統防御方案解決不了的新威脅，提高原有檢測方案的檢測精度，進(jìn)行更高效自動(dòng)化數據分類(lèi)，實(shí)現更快的威脅響應處置。也就是說(shuō)，AI不僅可以被用于對抗已有的攻擊，也可去感知和預測未來(lái)可能發(fā)生的安全威脅，這就使得安全防御變得更加積極。 
圖1：通過(guò)機器學(xué)習進(jìn)行異常行為檢測（圖源：NXP） 根據中國信通院發(fā)布的《中國網(wǎng)絡(luò )安全產(chǎn)業(yè)白皮書(shū)(2019 年)》，在網(wǎng)絡(luò )安全領(lǐng)域，AI技術(shù)正在發(fā)力的地方包括（但不限于）以下這些方面： · 在異常流量檢測方面，AI為加密流量分析提供新方案。 · 在惡意軟件防御方面，針對特定場(chǎng)景的AI應用取得積極進(jìn)展。 · 在異常行為分析方面，AI可成為模式識別的有效補充。 · 在敏感數據保護方面，AI助力數據識別和保護能力提升。 · 在安全運營(yíng)管理方面，基于A(yíng)I的安全編排與自動(dòng)化響應(SORA)逐漸興起。
圖2：機器學(xué)習在A(yíng)I安全中的作用（圖源：NXP） 有了AI作為安全防御的利器，人們的下一步就是要去探索一個(gè)體系化的安全解決方案。比如，為了應對AI模型各個(gè)環(huán)節可能存在的安全風(fēng)險，并給出相應的防御建議，騰訊就發(fā)布了一個(gè)“AI安全攻擊矩陣“。 這個(gè)AI安全攻防矩陣的意義在于：它可以覆蓋從AI模型開(kāi)發(fā)前的環(huán)境搭建，到模型的訓練部署，以及后期的使用維護的整個(gè)AI產(chǎn)品生命周期，盡可能列舉出在這個(gè)過(guò)程中可能遇到的所有安全問(wèn)題，并給出相應的應對策略。這樣一來(lái)，對照這個(gè)“矩陣”，開(kāi)發(fā)者就可以根據AI部署運營(yíng)的基本情況，排查可能存在的安全問(wèn)題，并根據推薦的防御建議布防，降低已知的安全風(fēng)險。雖然這樣的探索，目前來(lái)看只是一個(gè)起步，但也算是一個(gè)不錯的開(kāi)端。
圖3，騰訊發(fā)布的“AI安全攻擊矩陣“（資料來(lái)源：量子位） 技術(shù)之外的努力 當然，由于A(yíng)I對于人類(lèi)社會(huì )的觸動(dòng)是多方面、深層次的，所以AI安全策略也不能僅僅停留在技術(shù)層面。具體來(lái)講，在技術(shù)之外，我們至少在兩個(gè)方面必須有所行動(dòng)： 一是從法律角度構筑安全防線(xiàn)，通過(guò)立法明確AI安全的“紅線(xiàn)”，讓黑客及AI濫用者付出應有的代價(jià)； 二是建立行業(yè)公認的行為準則，通過(guò)行業(yè)自律等方式，覆蓋那些由于法律滯后于技術(shù)發(fā)展可能出現的灰色地帶，給用戶(hù)安全以最大化的保障，這也是為AI長(cháng)足發(fā)展營(yíng)造一個(gè)更健康的生態(tài)。 在文章的最后，我們分享一組數據：根據IDC的研究數據，2019年全球網(wǎng)絡(luò )安全支出較2018增長(cháng)了近9.4%，達到1066.3億美元；然而與此同時(shí)，有人預測同期網(wǎng)絡(luò )犯罪的總成本可能超過(guò)2萬(wàn)億美元，也就是說(shuō)網(wǎng)絡(luò )犯罪活動(dòng)的成本是安全支出的20倍左右。 這就是我們所面臨的安全環(huán)境，而且AI的出現會(huì )讓這種環(huán)境更為復雜。而在安全的問(wèn)題上，我們決不能妥協(xié)，因為關(guān)鍵之處一旦失守，可不是丟一張“臉”的數據那么簡(jiǎn)單了。這種讓人細思極恐的壓力，也正是我們進(jìn)步的動(dòng)力所在。 |
