在網(wǎng)絡(luò)安全的情境之外，信任是一種情感，一種對(duì)某事或某人難以衡量的感覺。

但信任在數(shù)字世界中的意義有所不同。在數(shù)字世界中，信任更像是一種建筑——一座高樓的地基，或是連接兩岸的堅(jiān)固橋梁。

如果這座信任的橋梁斷裂，那么所造成的損害將遠(yuǎn)超源頭本身。如果對(duì)網(wǎng)絡(luò)安全的信任被破壞，就會(huì)向外引發(fā)沖擊波，觸及組織的每一個(gè)角落，而且在某些情況下甚至可能導(dǎo)致組織的崩潰。

隨著我們對(duì)技術(shù)的依賴程度越來越高，人工智能（AI）越來越深地嵌入我們的生活，信任的界限正在受到前所未有的考驗(yàn)。在網(wǎng)絡(luò)安全領(lǐng)域，AI既是對(duì)手，也是盟友。如果說我在近三十年的行業(yè)經(jīng)歷中學(xué)到了一件事，那就是：數(shù)字信任的未來不在于選擇人類的專業(yè)知識(shí)還是AI的能力，而在于讓二者創(chuàng)造協(xié)同效應(yīng)。

AI在網(wǎng)絡(luò)安全中的作用

AI正在以前所未有的速度重塑網(wǎng)絡(luò)安全，既提供強(qiáng)大的解決方案也帶來復(fù)雜的挑戰(zhàn)。這是一個(gè)進(jìn)步的悖論：AI解決問題的能力將同時(shí)造成新的問題，需要不斷的適應(yīng)來平衡其前景和陷阱。

AI如何增強(qiáng)安全性

AI為網(wǎng)絡(luò)安全帶來了很多好處，讓組織能夠?qū)崟r(shí)檢測異常情況，實(shí)現(xiàn)事件響應(yīng)的自動(dòng)化并預(yù)測漏洞，從而主動(dòng)應(yīng)對(duì)風(fēng)險(xiǎn)。

這些進(jìn)步不僅提高了效率。它們還將安全專業(yè)人員從消防員轉(zhuǎn)變?yōu)閼?zhàn)略家。由于AI能夠處理重復(fù)性任務(wù)，過去花時(shí)間開展這些工作的人現(xiàn)在有時(shí)間和精力專注于創(chuàng)新、訓(xùn)練模型和做出有助于企業(yè)發(fā)展的高層決策。

AI驅(qū)動(dòng)式威脅的興起

那些有助于加強(qiáng)防御的工具正在被攻擊者當(dāng)作武器使用。惡意分子在使用AI發(fā)起更為量身定制的、可擴(kuò)展的且難以檢測的攻擊，例如制作令人信服的網(wǎng)絡(luò)釣魚電子郵件，使用深度偽造技術(shù)傳播虛假信息，以及創(chuàng)建適應(yīng)性強(qiáng)的、能學(xué)習(xí)如何規(guī)避傳統(tǒng)安全措施的威脅。

這些網(wǎng)絡(luò)威脅之所以如此危險(xiǎn)，是因?yàn)槠渌俣群蛷?fù)雜性。與遵循可預(yù)測模式的傳統(tǒng)網(wǎng)絡(luò)攻擊不同，基于AI的攻擊可以實(shí)時(shí)調(diào)整，超越靜態(tài)防御。

AI與信任的關(guān)系

AI和數(shù)字信任密不可分。同一種技術(shù)既可以通過加強(qiáng)安全措施來幫助增強(qiáng)信任，也可以被用作武器來輕松地破壞信任。這種推拉形成了一種相互作用的狀態(tài)，迫使組織以謹(jǐn)慎、負(fù)責(zé)和具有遠(yuǎn)見的態(tài)度來應(yīng)對(duì)AI的雙重性質(zhì)。

為了在AI驅(qū)動(dòng)式世界中建立并維持信任，貴組織需要關(guān)注三個(gè)關(guān)鍵原則：透明度、問責(zé)制和適應(yīng)性。

透明度：建立信心的AI

如果要讓AI增強(qiáng)信任，那么AI必須是容易理解的。在組織部署AI工具時(shí)，利益相關(guān)者——無論是員工、客戶還是監(jiān)管機(jī)構(gòu)——都需要知道這些系統(tǒng)如何發(fā)揮作用。黑箱AI，即在沒有明確解釋的情況下做出決策，可能會(huì)削弱信任而不是建立信任。

在這種情況下，可解釋的AI（XAI）必不可少。通過實(shí)現(xiàn)AI系統(tǒng)和模型的透明化，貴組織可以準(zhǔn)確地顯示決策如何被做出，確保問責(zé)制并減少對(duì)隱藏缺陷、偏見或惡意篡改的擔(dān)憂。

問責(zé)制：承擔(dān)結(jié)果

AI系統(tǒng)的好壞取決于其所基于的數(shù)據(jù)和邏輯，這意味著組織必須對(duì)其AI驅(qū)動(dòng)式結(jié)果負(fù)責(zé)——無論結(jié)果是正面的還是負(fù)面的。優(yōu)先考慮問責(zé)制的企業(yè)是始終如一地交付信任的企業(yè)。

為此，您需要確保AI決策符合道德原則，尊重?cái)?shù)據(jù)隱私并保持公平。貴組織還必須準(zhǔn)備好承擔(dān)錯(cuò)誤，就錯(cuò)誤進(jìn)行清楚地溝通，并迅速采取糾正措施。

問責(zé)制不僅適用于AI本身，還要延伸到與其相關(guān)的人和流程。清晰的治理框架、定期審計(jì)和強(qiáng)大的故障保護(hù)機(jī)制對(duì)于保持利益相關(guān)者的信心至關(guān)重要。

適應(yīng)性：在不斷變化的環(huán)境中蓬勃發(fā)展

AI創(chuàng)新的步伐意味著威脅在不斷發(fā)展演變。能成功建立信任的組織必須保持敏捷性——不斷學(xué)習(xí)、適應(yīng)和改進(jìn)針對(duì)潛在威脅的防御措施。

AI提供了一種領(lǐng)先于攻擊者的強(qiáng)大方法，但這需要的不僅僅是部署最新技術(shù)。成功來自于將AI融入更廣泛的恢復(fù)能力文化，在這種文化指引下，每個(gè)團(tuán)隊(duì)成員都了解自己在保護(hù)組織及其利益相關(guān)者方面的作用。

鳳凰效應(yīng)：如何恢復(fù)被破壞的信任

即使有最好的防御，事故也會(huì)發(fā)生。事故發(fā)生時(shí)，信任往往會(huì)快速流失。然而，盡管信任依然脆弱，但并非無法修復(fù)。

在信任受損事件發(fā)生后，組織有機(jī)會(huì)通過誠信處理事件來證明其對(duì)安全的承諾。我已經(jīng)看到，有些公司通過聚焦三個(gè)關(guān)鍵步驟，在這些事件后重新崛起，比以前更強(qiáng)大：

1.清晰坦誠地說明情況：坦誠溝通是重建信任的基礎(chǔ)。利益相關(guān)者需要直接、明確地了解這一事件——沒有糖衣，沒有延誤。

2.提供明確的補(bǔ)救措施：解釋出了什么問題，正在采取什么措施來解決問題，以及如何減輕未來的風(fēng)險(xiǎn)。含糊的回答于事無補(bǔ)。人們需要具體信息來重拾信心。

3.致力于長期改進(jìn)：快速修復(fù)還不夠。需要持續(xù)努力才能證明組織高度重視學(xué)習(xí)和改進(jìn)，例如實(shí)施新的安全措施并進(jìn)行定期審查。

這種處理方式會(huì)產(chǎn)生我所說的“鳳凰效應(yīng)”，能讓組織將危機(jī)轉(zhuǎn)化為進(jìn)行重要變革的催化劑。

構(gòu)建安全與信任的生態(tài)系統(tǒng)

實(shí)現(xiàn)并維護(hù)信任需要組織的安全觀發(fā)生根本性轉(zhuǎn)變。這不是一個(gè)復(fù)選框或一次性投資，而是一種文化基石。

將安全融入其DNA的組織能更好地應(yīng)對(duì)AI帶來的機(jī)遇和挑戰(zhàn)。這意味著在各個(gè)層面培養(yǎng)一種警惕、協(xié)作和問責(zé)的心態(tài)，從最高級(jí)的管理層到一線團(tuán)隊(duì)都是如此。

在一個(gè)信任與技術(shù)緊密交織的世界里，安全必須成為每個(gè)人的責(zé)任。

打持久戰(zhàn)

信任不是靜態(tài)的，它是一個(gè)動(dòng)態(tài)的、不間斷的過程，需要持續(xù)的關(guān)心和關(guān)注。隨著AI的不斷發(fā)展，它給網(wǎng)絡(luò)安全帶來的挑戰(zhàn)和機(jī)遇也在不斷演變。

將AI視為工具和挑戰(zhàn)、致力于透明度和問責(zé)制，并培養(yǎng)恢復(fù)能力文化的組織不僅會(huì)生存下來，還會(huì)蓬勃發(fā)展。

因?yàn)闅w根結(jié)底，信任不止是一種情感；它甚至不止是一座地基或一座橋梁。它是一幅藍(lán)圖——一種應(yīng)對(duì)不確定性、建立更牢固的聯(lián)系、在一個(gè)變化是唯一常態(tài)的世界中蓬勃發(fā)展的方式。

作者：LAKSHMI HANSPAL