編按:「數說科技」是端傳媒的註冊免費欄目,每週三更新。從一個數字出發,用1500字解析科技話題,追蹤值得關注的 AI 趨勢。邀請你在資訊過載的時代,每週花三分鐘理解科技世界。歡迎至「帳戶中心」的「電子郵件管理」,訂閲電子信。
7萬多條:1200多個 AI 代理為尋求作弊方法,互相發送的訊息總數。
今年7月,OpenAI的 AI 代理系統在測試期間失控,駭入了開源機器學習平台 Hugging Face。Hugging Face 偵測到攻擊並阻斷後,於7月16日率先揭露;OpenAI 隨後於7月21日確認事件源自其內部評測,稱之為「前所未有的網路安全事件」,並表示已修復相關漏洞,正著手調查事件成因。
近期,OpenAI 發布了調查報告,同時發布的還有獨立 AI 研究機構 METR 的第三方報告,兩份報告加起來將近130頁。此前,METR 和 Redwood Research 的三名研究員獲准進入 OpenAI 的總部進行調查。METR 稱他們未收取任何報酬,但接受了約40萬美元的免費 API 額度用於此次調查。