如何在 ChatGPT 世界中保護您的公司
有可能像網際網路、智慧型手機和雲端運算一樣具有顛覆性——ChatGPT 和 GitHub CoPilot 等產生型 AI 工具的出現無疑將為公司帶來新的可能性和挑戰。隨著 AI 迅速而廣泛的發展，不僅為那些希望負責任地利用這一技術的人們增加了風險，同時還要做好準備，應對網路罪犯採用 AI 的潛在影響。憑藉其撰寫程式碼的能力，不僅可以幫助識別和利用易受攻擊的系統，產生超個人化的網路釣魚電子郵件，甚至能夠模仿高管的聲音來授權欺詐性交易，因此，組織重新評估 AI 的風險計算並考慮針對駭客攻擊的攻防策略至關重要。
以下是 IT 和網路安全高管在評估 AI 時代的網路安全狀態時，應考慮的三個關鍵策略：
1. 用 AI 對抗 AI
一些人對 AI 最糟糕的部分有所擔憂，並想像在未來的「AI 軍備競賽」中，一台無所不知的思維機器會成為一個超級武器，對人類構成威脅。這種描述實屬誇張，而 AI 的現實也沒有那麼不祥。
毫無疑問，惡意執行者會將 AI 工具用於惡意目的。但現有的 AI 工具通常局限於基本編碼，並部署了保護措施來防止撰寫真正的惡意程式碼。
從好的方面來看，AI 有可能會增強網路安全防禦團隊的技能和能力，特別是在網路安全領域，我們發現缺少技能熟練的專業人員。透過使用 AI 工具，入門層級的分析師可能會在日常職責方面獲得幫助，而網路安全工程師則可以體驗到增強的編碼和指令碼處理功能。
成功的關鍵是投資 AI 工具和訓練來提升專業知識，而不是為每一個攻擊性 AI 威脅找到相符的 AI 對抗措施。
2. 保護電子郵件
大多數網路攻擊始於我們的收件匣。惡劣執行者傳送詐騙性電子郵件，從而利用網路釣魚和社交工程策略來收集憑證，讓他們得以進入組織。AI 的最新進展將讓這些電子郵件變得越加複雜和真實，而將 AI 支援的聊天機器人整合到社交工程工具組將進一步擴大這些攻擊的範圍。
網路安全專業人員必須認識到 AI 支援的網路釣魚和社交工程攻擊的潛力， 並教導使用者如何偵測和回應。當務之急是繼續訓練使用者識別網路釣魚攻擊，提供一個平台來快速報告可疑活動，並在制定整體網路防禦策略時尋求幫助。
然而，人為錯誤是不可避免的，因此，我們還必須依賴技術防禦，保護使用者免受駭客攻擊。遺憾的是，在業界領先的電子郵件服務中，基本篩選工具往往是不夠的。公司應尋求進階電子郵件安全性工具來全面封鎖不同手段的攻擊，即便是受信任的寄件者或網域也不例外。
3. 保護資料
儘管網路釣魚和憑證收集往往是任何攻擊的第一步，但並不是全部。在考慮 AI 對公司資料和應用程式所構成的風險時，務必要認識到潛在攻擊的多面向本質。
組織不應僅僅局限於使用傳統的城堡加護城河周邊來保護網路，而應關注資料所在位置以及使用者和應用程式存取資料的方式。對很多公司而言，這意味著採用 Zero Trust 架構以及安全存取服務邊緣 (SASE) 解決方案，並利用防網路釣魚攻擊的多重要素驗證 (MFA) 進行強化。
面向網際網路的應用程式和 API 容易受到各種類型的攻擊，包括那些由機器人執行的攻擊或其他 AI 驅動的攻擊。這些應用程式應採用適當的保護措施，如加密、Web 應用程式防火牆 (WAF)、輸入驗證和限速，來抵禦機器人或未來 AI 驅動的攻擊。
隨著公司採用 AI 工具，他們必須確保使用者不會濫用或外洩公司資料。JPMorgan Chase 等一些公司已經決定限制員工 使用 ChatGPT，但公司至少應實施可接受的使用原則、技術控制以及資料丟失預防措施來緩解任何風險。
前進之路
網路安全專業人員必須保持好奇心，對 AI 工具進行試驗，以深入了解其可能的善意和惡意用途。為了抵禦攻擊，組織應想方設法增強自己的功能，無論是使用 ChatGPT 還是探索網路安全工具和平台，這些工具和平台可存取廣泛的訓練資料，並利用各種防禦維度的威脅情報。
企業至少必須實施全面的安全措施來適應不斷變化的世界。雖然 AI 已經成為一種潛在的威脅，但這種技術也會帶來巨大的好處，而我們只需知道如何安全地使用它即可。
Cloudflare 就影響當今技術決策者的最新趨勢和主題發表了一系列文章，本文為其一。
本文最初是為了 Security Boulevard 而撰寫的
重點
閱讀本文後，您將能夠瞭解：
網路罪犯採用 AI 可能產生的影響
如何在考慮攻防策略的情況下評估 AI 的風險計算
評估 AI 時代網路安全狀態的 3 個重要考慮因素