7 月 14 日消息,據螞蟻技術消息,世界數字科學院(WDTA)在聯合國日內瓦總部日前正式發布 AI STR 系列新標準《AI 智能體運行安全測試標準》,標準由螞蟻集團、清華大學、中國電信牽頭,聯合普華永道、新加坡南洋理工大學、美國圣路易斯華盛頓大學等二十余家國內外機構、企業及高校共同編制,為全球首個單智能體運行安全測試標準。
據介紹,該標準針對智能體跨越“語言墻”所帶來的“行為”風險,首次將輸入輸出、大模型、RAG、記憶和工具五個關鍵鏈路與運行環境對應起來,構建了全鏈路風險分析框架;同時,細分了智能體風險類型,完善并創新提出了模型檢測、網絡通信分析和工具模糊測試等測試方法,彌補了智能體安全測試技術標準的空白。
從螞蟻技術獲悉,該標準不僅提供了一套可行可靠的智能體安全基準,也為全球 AI 智能體生態的安全、可信和可持續發展增加了有益的探索。目前,部分標準的測評與認證已在金融、醫療等領域落地應用。
此前,WDTA 已發布 3 項 AI STR 標準,包括“生成式人工智能應用安全測試標準”,“大語言模型安全測試方法”和“大模型供應鏈安全要求”,由 OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同參與。
本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。