超過90% 的高階主管對生成式AI 工具的不受監控的使用表示擔憂
網路安全供應商卡巴斯基最近進行的一項研究顯示，高階主管對其組織中產生人工智慧（GenAI）工具不受監管的擴散日益擔憂。 90% 的高級商業領袖對這些工具的不受限制的採用表示擔憂，很明顯，生成式人工智慧正越來越多地融入各種業務運營中。
生成式人工智慧的悄悄滲透
卡巴斯基的研究發現，超過一半（53%）的受訪高階主管認為，生成式人工智慧現在正在積極「推動」其組織內的某些業務線。然而，其中59% 的人也對他們所謂的生成式人工智慧的「無聲滲透」表示深切擔憂，從而導致網路風險加劇。這種「影子人工智慧」現象，即員工在沒有適當監督的情況下融入生成式人工智慧，為資料安全和治理帶來了重大挑戰。
一個令人震驚的發現是，只有22% 的受訪企業領導者討論過內部治理政策的實施，以監控組織內生成式人工智慧的使用情況。此外，91% 的人承認需要更了解如何使用這些工具來降低安全風險。
卡巴斯基首席安全研究員David Emm 強調了解決這一問題的緊迫性，他表示：「鑑於GenAI 的快速發展目前沒有任何減弱的跡象，這些應用程式不受控制地運行的時間越長，它們就越難在主要領域進行控制和保護。人力資源、財務、行銷甚至IT 等業務職能。”
資料外洩問題
生成式人工智慧依賴透過資料輸入進行持續學習，因此資料保護成為首要問題。即使善意使用，員工也可能在不知不覺中將敏感資料傳輸到組織外部，可能導致資料外洩。卡巴斯基的研究反映了這種擔憂，59% 的領導者對資料遺失的風險表示嚴重擔憂。
儘管有這些擔憂，該研究還顯示，50% 的企業領導者計劃以某種方式利用生成式人工智慧，主要是為了自動化重複性任務。此外，44% 的人打算將生成式人工智慧工具整合到他們的日常生活中。值得注意的是，24% 的受訪者表示他們傾向於使用生成式人工智慧來實現IT 和安全功能的自動化。
Emm 評測了這一趨勢，他說：「人們可能會認為，敏感資料遺失和關鍵業務部門失去控制的前景可能會讓最高管理層停下來思考，但我們的調查結果顯示，近四分之一的行業老闆目前正在考慮將一些最重要的功能委託給人工智慧。”
不過，他也強調，在進一步將GenAI 融入企業環境之前，需要對資料管理有全面的了解和強而有力的政策。
圍繞生成式人工智慧的風險和效益的討論已經引起了人們的關注。英國首相里希·蘇納克最近呼籲提高對與生成人工智慧相關的風險的認識。這是在布萊奇利公園舉行的人工智慧安全高峰會之前舉行的，行業領袖和專家將在會上討論監管的未來以及這項新興技術的整合。
生成人工智慧的雙面刃
Trellix 高級副總裁兼總經理Fabien Rech 強調了生成式AI 的雙重性質，他表示：「生成式AI 是一把雙刃劍– 隨著網路安全格局的不斷發展，生成式AI 的大幅上漲只會進一步增加複雜性到混合。”
Rech 強調組織必須意識到生成式人工智慧技術的影響以及如何有效地利用和整合它。雖然生成式人工智慧工具具有簡化日常任務和提高生產力的優點，但人們也擔心它們在程式碼注入、網路釣魚、社會工程和深度偽造技術等惡意活動中可能被濫用。
他敦促組織優先考慮強有力的安全措施並整合適當的技術解決方案，以建立對網路威脅的彈性保護。
資訊來源：由0x資訊編譯自CRYPTOPOLITAN。版權所有，作者Benson Mawira所有，未經許可，不得轉載