|
簡(jiǎn)介 開(kāi)發(fā)智能機器的歷程使我們踏上了一條充滿(mǎn)發(fā)現、驚奇、敬畏和關(guān)注的道路。即使還有如此多尚未發(fā)現的東西，我們仍然知道對安全AI的追求將改變我們設計、開(kāi)發(fā)智能產(chǎn)品并將其推向市場(chǎng)的方式。安全的AI不僅需要我們像保護網(wǎng)絡(luò )安全那樣防御外部黑客的入侵，還必須確保AI的行為是安全的。未來(lái)的AI開(kāi)發(fā)將注重開(kāi)發(fā)過(guò)程每個(gè)環(huán)節的安全和風(fēng)險管理。 AI標準和指南中的安全問(wèn)題 AI安全工程的一項需求是擁有可廣泛獲取的人工智能開(kāi)發(fā)實(shí)用指南和標準。盡管諸多標準組織和協(xié)會(huì )正為建立這些資源而努力，但距離達成共識還很遙遠（這里又是價(jià)值觀(guān)一致性問(wèn)題），更不要說(shuō)具體的技術(shù)指導。同時(shí)，航空航天和醫療制造業(yè)等極度重視安全的行業(yè)提供了或可借用的風(fēng)險管理模型，可滿(mǎn)足短期A(yíng)I安全需求，并為最終的標準和框架奠定基礎。特別是可通過(guò)Delphi方法來(lái)組織專(zhuān)家的集體智慧和判斷、不同AI系統類(lèi)型的風(fēng)險評估以及軟硬起飛場(chǎng)景的結果。 設計創(chuàng )意和流程中的安全考慮 從設計創(chuàng )意開(kāi)始，一直到將產(chǎn)品推向市場(chǎng)的流程，一個(gè)相關(guān)的需求就是在整個(gè)過(guò)程中都主動(dòng)將安全性納入工程設計的所有領(lǐng)域。我們需要直面這種情況：對于許多開(kāi)發(fā)團隊來(lái)說(shuō)，這將意味著(zhù)改變�？纯椿ヂ�(lián)網(wǎng)�？纯�嵌入式系統�，F實(shí)情況是，大多數行業(yè)都是直到產(chǎn)品開(kāi)始取得成功后才將大量資源投入安全領(lǐng)域。在智能系統中放任安全性問(wèn)題不管可能會(huì )有巨大的隱患，因為可能不會(huì )有亡羊補牢的機會(huì )。 用戶(hù)需求中的安全問(wèn)題 工程安全AI將需要工程師透過(guò)用例表面，真正了解用戶(hù)的價(jià)值觀(guān)和偏好。我們習慣于蜻蜓點(diǎn)水地對待用例和用戶(hù)反饋；但是，第2部分中討論的價(jià)值觀(guān)一致性問(wèn)題告訴我們，我們需要更深入地了解實(shí)際需求。例如，如果我們問(wèn)一個(gè)學(xué)生為什么要上學(xué)，她可能會(huì )告訴您她想獲得知識，希望學(xué)習感興趣的領(lǐng)域�？墒茄芯勘砻�，真正或其他原因還包括：取得文憑、獲得同齡人認可或者長(cháng)大以后能多賺錢(qián)等。作為工程師，如果我們在開(kāi)發(fā)智能產(chǎn)品時(shí)僅關(guān)注表面上的用戶(hù)需求和反饋，就有可能會(huì )開(kāi)發(fā)出實(shí)際上無(wú)法滿(mǎn)足用戶(hù)需求的產(chǎn)品……無(wú)用的智能。 漏洞評估中的安全問(wèn)題 在流程的每個(gè)環(huán)節，都必須考慮并解決產(chǎn)品的安全性及智能（記憶、處理速度等）問(wèn)題。黑客只需要在這種無(wú)限的可能性中找到一個(gè)弱點(diǎn)即可，但是AI可能會(huì )以我們無(wú)法預測甚至無(wú)法想象的方式運用智能。有哪些潛在的產(chǎn)品漏洞？ 有哪些潛在的濫用行為？ 各項功能可能會(huì )遭到怎樣的濫用？ 每種情況下會(huì )如何發(fā)生事與愿違的事情？ 數據安全是否有保障？ 我們如何知道？ 產(chǎn)品包含的智能是否超出了必要？ 這可能會(huì )遭到怎樣的濫用？ 如何保障安全？ 結論 工程安全AI將改變我們的流程、思維方式和優(yōu)先考慮事項。要擁有AI開(kāi)發(fā)框架和標準，工程安全AI還有很長(cháng)的路要走。同時(shí)，借鑒航空航天和醫療器械行業(yè)的做法將非常有用，在產(chǎn)品開(kāi)發(fā)流程的所有方面納入安全考量同樣也有幫助。在接下來(lái)的第6部分中，我們將探討一種開(kāi)發(fā)安全AI的新興技術(shù)，它被稱(chēng)為人工智障。 文章來(lái)源：貿澤電子 作者簡(jiǎn)介：Roman V. Yampolskiy博士是路易斯維爾大學(xué) (University of Louisville) 計算機科學(xué)與工程系的終身副教授。他還是網(wǎng)絡(luò )安全實(shí)驗室的創(chuàng )始人和現任主任，并著(zhù)有多部著(zhù)作，包括《Artificial Superintelligence: a Futuristic Approach》。 |
