釋放AI潛力：在成長中兼顧資安防護

作者: Palo Alto Networks 網路安全資深副總裁 Rich Campagna
AI應用程式的快速整合為企業帶來了豐富的機會。這些智慧系統具有革新營運、推動創新以及提升生產力的潛力。隨著越來越多企業擁抱 AI 的力量，實現其完整潛力的關鍵要素在於建立健全的資安措施。透過主動處理資安考量，我們能夠營造一個值得信賴的環境，促進AI技術的安全且廣泛的採用。

在這個環境中，企業需要對AI工具通常用於訓練和推論等功能所存取的龐大資料進行控管。防護所有這些威脅的最佳方式是採用AI驅動的資安解決方案。能掌握 AI 安全的企業，也將在競爭中搶占先機。

AI採用的成長與相伴隨的風險
AI 的普及速度驚人，無論是生成式 AI（GenAI）還是資料分析工具，都正加速重塑各產業樣貌。根據麥肯錫顧問公司（McKinsey & Company）近期調查，超過 75% 的企業已在多項業務功能中部署 AI，足見其帶來的價值之巨大。

然而，如同任何強大的技術，負責任的導入才是關鍵。雖然 AI 的快速採用令人振奮，但這也需要我們更加關注其底層資料以及系統的安全性。若能將安全性融入 AI 開發與部署的每一個環節，企業便能在充分享受其帶來效益的同時，有效降低潛在風險。

底層資料的挑戰
隨著企業導入 AI，積極主動的資料管理策略變得至關重要。雖然像 Hugging Face 這樣的平台提供了大量的開源模型與資料集（截至目前為止，已有超過 150 萬個模型和 40 萬個資料集），但確保這些資訊的負責任與合乎倫理的使用仍然十分重要。例如，醫療資料集的開放就需特別注意，如同 HIPAA 等隱私法規，透過落實健全的資料治理機制，企業能夠更有效地應對這些複雜的挑戰。

同樣地，針對大型語言模型（LLMs）訓練資料的持續討論，也突顯了尊重智慧財產權的重要性。主動面對這些議題，有助於建立一個更具永續性且合法合規的 AI 生態系統。此外，雖然 Palo Alto Networks 的研究人員發現了惡意 AI 模型，提醒我們需提高警覺，但這也同時促進了相關資安解決方案的發展，以偵測並消除此類威脅。



需要更多控制
企業可以做什麼？暫緩導入 AI並非解答，無論這看起來多麼誘人。對於想要保持競爭力的現今企業來說，這根本不可行。

關鍵在於採取「從設計即安全」（secure by design）的理念。這意味著在 AI 應用程式開發的整個生命週期中融入安全考量，使開發人員與資料科學家能夠打造穩健且值得信賴的模型。一個全面的 AI 安全平台應涵蓋以下幾個關鍵領域：

●        AI代理的安全（Security for AI agents）  – 代理必須受到保護，免受新的代理威脅，如工具濫用、身份冒充和記憶體操縱。

●        AI模型掃描 （Scanning for AI models）– 主動掃描AI模型的漏洞，以便安全採用，將使您的AI生態系統免受反序列化攻擊、模型篡改、惡意腳本和其他風險。

●        狀況管理（Posture Management）－深入了解 AI 生態系統中與安全狀況相關的風險，有助於避免因配置錯誤、敏感資料外洩或權限過度等問題所帶來的風險。

●        執行階段安全（Runtime Security）－保護您的資料、AI 應用程式與由大型語言模型（LLMs）驅動的模型，免受執行期間可能出現的威脅，例如幻覺（hallucination）、有害內容、資源過載、提示注入（prompt injection）、敏感資料外洩與惡意程式碼等風險。

擊退 AI 引發的資料外洩風險
在 AI 的無人地帶裡，機會與威脅並存。由於未加保護的 AI 模型與資料集，一場大規模的資料外洩事件可能隨時爆發。面對這些風險，企業彷彿陷入進退兩難的境地—既無法忽視 AI 的潛力，又難以安心使用。但在競爭對手與攻擊者都已經積極運用 AI 的今天，AI 已不再是可有可無的選項。

AI 所帶來的好處無庸置疑，從加速應用程式開發、提升流程自動化，到顯著提高生產力，皆展現出其強大潛力。然而，若要真正實現這些優勢，從一開始就建立一個安全的基礎至關重要。請參考上述所提的最佳實務，打造一個穩固且安全的根基。如此一來，您將能夠在 AI 應用程式開發生命週期的每一階段確保安全，全面追蹤與監控員工對 AI 的使用情況，並隨時保護 AI 應用中所使用的資料，防止遺失或未經授權的存取。

關於Palo Alto Networks
Palo Alto Networks (納斯達克股票代碼：PANW)作為全球AI網路安全領導者，致力於透過持續創新，守護數位時代的生活與發展。受到全球超過70,000家企業和組織的信賴，Palo Alto Networks提供涵蓋網路、雲端、安全營運與人工智慧領域的全方位AI驅動資安解決方案，並結合Unit 42的威脅情報與專業團隊，全面強化防護能力。Palo Alto Networks專注推動資安平台化策略，協助企業在大規模運作中簡化安全管理，讓資安成為推動創新的關鍵動能。歡迎探索更多www.paloaltonetworks.com 。

Reached a milestone with a huge number of players. If you want to know why so many players voted for it, you can't miss it.
Head Soccer

Great article on AI security! While playing fortzone battle royale yesterday, I was thinking about data protection too. It's crucial to balance AI adoption with proper security measures. The tips from Palo Alto Networks are really helpful for keeping our data safe.