NVIDIA 部落格指出，生成式人工智慧雖然改變了企業，但也帶來了網路安全挑戰。同時，人工智慧可成為解決這些風險的關鍵工具。為防止惡意注入，NVIDIA 的NeMo Guardrails 軟體透過護欄增強AI 服務的安全性。此外，Morpheus 框架可協助企業偵測和保護敏感數據，確保資料衛生。人工智慧還可協助存取控制，透過限制權限降低駭客風險。有效運用AI 工具對企業保護至關重要，未來AI 與網路安全將相輔相成，形成良性循環。
Caroline Bishop 2024 年9 月6 日15:46
根據NVIDIA 部落格介紹，了解AI 如何透過及時注入、資料保護和存取控制強化來應對網路安全挑戰。
隨著生成式人工智慧不斷改變企業，它也帶來了一系列獨特的網路安全挑戰。根據NVIDIA 部落格稱，人工智慧本身可以成為解決這些風險的關鍵工具，為網路安全帶來飛輪式的進步。
人工智慧護欄防止及時注射
生成式AI 服務容易受到惡意提示的攻擊，這些提示旨在破壞底層語言模型或取得未經授權的資料存取。直接注入可以覆蓋系統提示，而間接注入可以操縱來自外部來源的輸入。 AI 護欄就像安全屏障一樣，可以透過讓AI 應用程式保持正軌和主題來防止這些提示注入。 NVIDIA 的NeMo Guardrails 軟體就是這樣一種解決方案，它使開發人員能夠增強生成式AI 服務的可信度、安全性和保障性。
人工智慧檢測並保護敏感數據
大型語言模型(LLM) 有時會在其回應中洩漏敏感資訊。多因素身份驗證和日益複雜的憑證擴大了敏感資料的範圍。為了降低這種風險，必須從AI 訓練資料中刪除或隱藏敏感資訊。鑑於涉及的數據集龐大，AI 模型在確保數據衛生方面比人類更有效。 NVIDIA 的Morpheus 框架可讓企業建立AI 模型和加速管道，以偵測和保護整個企業網路中的敏感資訊。
人工智慧可以幫助加強存取控制
駭客可能會利用LLM 未經授權存取組織資產。實施安全設計原則（例如授予必要的最小權限並持續評估權限）可以限制這種風險。此外，AI 可以透過使用單獨的內聯模型來協助存取控制，這些模型經過訓練可根據LLM 的輸出檢測權限升級。
開啟網路安全AI 之旅
網路安全沒有單一的解決方案；它需要不斷發展的措施和對策。有效使用最新工具和技術的組織將能夠更好地保護其AI 系統。在有意義的用例中部署AI 對於組織熟悉它至關重要。 NVIDIA 及其合作夥伴提供AI、網路安全和網路安全AI 的全端解決方案。
展望未來，人工智慧與網路安全之間的關係將變得越來越共生，形成一個相互促進的良性循環。最終，使用者將信任人工智慧作為另一種自動化形式。有關NVIDIA 網路安全AI 平台及其應用程式的更多信息，請訪問NVIDIA 部落格。
圖片來源：Shutterstock
資訊來源：由0x資訊編譯自BLOCKCHAINNEWS。版權所有，未經許可，不得轉載