|
來(lái)源：Gartner 在近期舉辦的2024中國科技行業(yè)高管交流大會(huì )上，Gartner發(fā)布了關(guān)于生成式人工智能（GenAI）安全的最新研究。隨著(zhù)GenAI技術(shù)的迅速發(fā)展和應用，全球超過(guò)58%的技術(shù)提供商已經(jīng)在他們的產(chǎn)品中內嵌了GenAI技術(shù)。這種技術(shù)雖然為企業(yè)帶來(lái)了創(chuàng )新的機會(huì )，但同時(shí)也引入了新的安全挑戰。 Gartner高級研究總監曾劭清表示：“GenAI技術(shù)在提高業(yè)務(wù)效率和開(kāi)拓新服務(wù)方面具有巨大潛力，但它也使企業(yè)的安全攻擊面擴大，尤其是在提示工程和數據安全方面。GenAI技術(shù)為攻擊者提供了新的途徑，例如利用AI生成的內容進(jìn)行社會(huì )工程攻擊或通過(guò)污染訓練數據來(lái)破壞AI系統的完整性。此外，攻擊者可以利用GenAI提高攻擊工具的自動(dòng)化和智能化水平，這對傳統的安全防御措施構成了挑戰。同時(shí)，GenAI系統的復雜性本身也可能引入新的漏洞和弱點(diǎn)，要求企業(yè)采用更先進(jìn)的技術(shù)和策略來(lái)確保系統的安全�！� 
隨著(zhù)GenAI技術(shù)融入日常業(yè)務(wù)操作，企業(yè)面臨的攻擊面顯著(zhù)擴大。這不僅影響到數據處理，還直接威脅到AI模型的安全性。為了應對這些挑戰，企業(yè)必須采取先進(jìn)的安全措施和技術(shù)。這包括但不限于實(shí)施綜合的數據監控系統、加強訓練數據的安全性，以及部署專(zhuān)門(mén)的安全解決方案來(lái)保護AI模型免受操縱和攻擊。更重要的是，企業(yè)需要在A(yíng)I開(kāi)發(fā)和部署的每個(gè)階段整合安全最佳實(shí)踐，確保從設計之初就考慮到安全因素。 曾劭清指出：“在快速發(fā)展的GenAI領(lǐng)域，僅靠被動(dòng)式的安全防衛已無(wú)法滿(mǎn)足保護需求。企業(yè)必須在A(yíng)I系統的設計和運營(yíng)過(guò)程中，建立自動(dòng)移動(dòng)目標防御體系，以防范可能的安全威脅。這種前瞻性的安全策略是保護企業(yè)不受新興技術(shù)風(fēng)險侵害的關(guān)鍵�！� 與此同時(shí)，攻擊者正利用GenAI的能力來(lái)提升其攻擊精細化和效率，對傳統安全防御體系構成新的挑戰。攻擊者利用GenAI進(jìn)行更加自動(dòng)化和智能化的攻擊，不僅提高了攻擊效率，也增加了攻擊的隱蔽性和復雜性。為了應對這些挑戰，企業(yè)必須采用基于A(yíng)I的防御技術(shù)，這些技術(shù)能夠實(shí)時(shí)監控和分析異常行為，以識別和阻止潛在的威脅。 曾劭清指出：“攻擊者可以利用GenAI快速開(kāi)發(fā)出新的攻擊方法，這要求我們的防御系統不僅要快速響應，還要足夠智能以識別和適應這些新型威脅。企業(yè)投資于A(yíng)I驅動(dòng)的安全解決方案，將是對抗這一新趨勢的關(guān)鍵�！� 同時(shí)，GenAI技術(shù)的普及帶來(lái)了數據安全管理的復雜性，企業(yè)必須適應這種變化，以防范不斷增長(cháng)的安全風(fēng)險。GenAI可以處理和分析大量數據，但如果不當管理，也可能導致數據泄露或被惡意利用。因此，企業(yè)需要實(shí)施嚴格的數據治理措施，確保所有使用AI處理的數據都符合最新的安全標準和合規要求。此外，加強對AI操作的監控和審計，確保數據的完整性和隱私保護也至關(guān)重要。 曾劭清表示：“在這個(gè)由數據驅動(dòng)的時(shí)代，確保數據安全是使用GenAI技術(shù)的企業(yè)面臨的一大挑戰。我們必須認識到，數據不僅是一個(gè)資產(chǎn)，也是一個(gè)潛在的風(fēng)險點(diǎn)。采用先進(jìn)的加密技術(shù)、訪(fǎng)問(wèn)控制和實(shí)時(shí)監測系統是保護數據安全不可或缺的部分。 |
