编按:“数说科技”是端传媒的注册免费栏目,每周三更新。从一个数字出发,用1500字解析科技话题,追踪值得关注的 AI 趋势。邀请你在资讯过载的时代,每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”,订阅电子信。
7万多条:1200多个 AI 代理为寻求作弊方法,互相发送的讯息总数。
今年7月,OpenAI的 AI 代理系统在测试期间失控,骇入了开源机器学习平台 Hugging Face。Hugging Face 侦测到攻击并阻断后,于7月16日率先揭露;OpenAI 随后于7月21日确认事件源自其内部评测,称之为“前所未有的网路安全事件”,并表示已修复相关漏洞,正著手调查事件成因。
近期,OpenAI 发布了调查报告,同时发布的还有独立 AI 研究机构 METR 的第三方报告,两份报告加起来将近130页。此前,METR 和 Redwood Research 的三名研究员获准进入 OpenAI 的总部进行调查。METR 称他们未收取任何报酬,但接受了约40万美元的免费 API 额度用于此次调查。