您的位置：首頁 > 財經 >

全球快播：螞蟻集團開放AI安全檢測平臺：集成1000多件專利、40余種主流對抗算法

來源：中金在線 ? 2022-09-01 19:46:51


(資料圖)

人工智能大規模應用催生了對AI安全更迫切的要求。9月1日下午，在上海“2022世界人工智能大會-可信AI論壇”現場，中國信通院、清華大學、螞蟻集團聯合發布AI安全檢測平臺“蟻鑒”，面向AI模型開發者提供從模型對抗測試到防御加固的一站式測評解決方案，幫助開發者一鍵識別和挖掘模型漏洞，打造更安全可靠的AI。

記者了解到，這也是行業首個面向工業場景全數據類型的AI安全檢測產品。該平臺基于螞蟻多年的風險對抗實踐，集1000多件可信AI專利于一身，融合了自研的智能博弈對抗技術，可以實現文本、圖像、表格、序列等不同數據類型的自動化測試、量化評分和安全性增強。

(圖：在世界人工智能大會可信AI論壇上，中國信通院、清華大學、螞蟻集團發布AI安全檢測平臺“蟻鑒”。)

螞蟻集團大安全技術部總裁李俊奎介紹，該平臺內嵌了自研的AI安全計算引擎，計算性能提升了數十倍；內置了40余種國內外主流及自研的攻擊算法模型，通過模擬黑產及自動進化攻擊手段，對AI模型“檢測—防御—升級”，可有效發現AI模型漏洞，減少系統性風險；此外，該平臺覆蓋了對模型未知情況下的“隨機噪聲”、“遷移攻擊”等攻擊樣本，更符合工業界應用的攻擊評測基準。

李俊奎說，該平臺支持零編碼測評，用戶上傳待測模型，選擇攻擊算法后，平臺可自動化評估AI安全風險，全面加固模型算法。該平臺現已開放AI模型魯棒性測評，未來持續增加模型可解釋性、算法公平性、隱私保護等特性的檢測服務。

據介紹，“蟻鑒”AI安全檢測平臺搭載的技術能力，已在螞蟻的交易安全、核身安全、內容安全等多個場景有效應用實踐。例如，在垃圾賬號治理場景上，通過平臺基于深度神經網絡的博弈攻防模型，模擬黑產攻擊手段提前防御，風險賬號漏過減少2成多；在內容安全文本場景，基于文本對抗訓練的模型，降低風險漏過38%；在憑證認證場景，基于平臺提前發現的模型問題和對抗訓練增強方案，消除23%的潛在黑產攻擊威脅項。

(圖：在世界人工智能大會展區，螞蟻集團展示了基于多年的風險對抗實踐開發的AI安全檢測平臺。)

中國信通院云計算與大數據研究所內容科技部副主任石霖表示，人工智能技術與制造、醫療、能源、交通、城市建設等領域深度融合，AI算法問題也在不斷出現。算法黑箱、算法設計缺陷、數據依賴、對抗樣本攻擊等問題對智能技術的產業化應用帶來較大安全隱患。AI面向工業場景大規模應用，要實現全鏈路安全可信，持續加強模型魯棒性。

清華大學副教授李琦表示，人工智能算法的通用自動化檢測是研究和解決人工智能安全問題的核心。此次推出的AI安全檢測平臺，首次全面解決了不同場景下AI算法的系統化和自動化評測，并提供了AI工業級應用的安全量化評價指標，有助于為人工智能算法在工業界的大規模應用提供安全保障。

公開資料顯示，今年8月份，這項AI安全檢測平臺獲評信通院“2022年可信人工智能實踐案例”標桿案例。螞蟻集團自2015年起投入可信AI技術研究，擁有全球范圍內數量最多的“AI安全可信關鍵技術”專利，已在反欺詐、反洗錢、反盜用、企業聯合風控、數據隱私保護等場景落地。

相關推薦