歡迎光臨
我們一直在努力

AI for Security:智能化安全對抗的困境

原文地址:https://xz.aliyun.com/t/3488

AI是手段,目標是安全,包括應用安全和AI安全。所以是AI for Application and AI Security,即AI for Security。

從應用安全的角度來說,用AI來做應用安全防護,比如做WAF或入侵檢測,屬於基礎安全,做反欺詐檢測,屬於業務安全;用AI來攻擊應用,比如用AI來自動化漏洞挖掘,屬於系統安全,用AI來攻擊驗證碼,屬於業務安全;而從AI本身安全來說,(用AI)攻擊AI,比如用對抗樣本攻擊AI模型,屬於AI模型安全,用資料汙染的手段攻擊AI模型,屬於AI資料安全;AI模型防護,比如對抗對抗樣本和對抗資料汙染,比較小眾。

四者相輔相成,假如我們在防守位,正遭遇外界的攻擊,包括傳統攻擊和AI攻擊,如果我們用AI來做應用安全防護,對手可能採用對抗樣本來攻擊我們的AI,那麼我們就要對AI模型進行防護,也就是對抗對抗樣本。假如我們在攻擊位,之前的過程顛倒即可。總的來說,攻防就是一個動態博弈的過程。

前言引用來源:https://xz.aliyun.com/t/3488
文章圖片來源:https://www.securitysales.com/emerging-tech/robotics-tech/artificial-intelligence-fit-security-industry/

-------------------
如果你認同我們每日分享的文章,請幫我們按個讚並且點擊追蹤「搶先看」,讓我們提供最新消息給您!您的分享及點讚,是我們持續推廣資訊安全最大的動力來源。
https://www.facebook.com/LonelyPoPo/

贊(0) 打賞
轉載請附上作者連結:波波的寂寞世界 » AI for Security:智能化安全對抗的困境

波波的寂寞世界

Facebook聯繫我們

覺得文章有用,請作者喝杯咖啡

掃一掃打賞作者狗糧