圆桌

AI头环有助学生提升表现?上海一家小学正进行学生注意力监测,你怎么看?

注意力属于个人隐私吗?学生的个人隐私为何频频被忽略并引起争议?

2018年9月3日在上海一所中学的操场。

2018年9月3日在上海一所中学的操场。摄:Johannes Eisele/AFP via Getty Images

端小二2019-09-24 发起

用AI技术监测学生注意力,能否帮助他们提高成绩?

学生的个人数据被收集并共享,是否会引发对个人私隐的担忧?

用高科技读取大脑中的信号,我们的思想应不应该被监视?

日前,《华尔街日报》发表了一篇题为《AI监控走进中国小学课堂,头戴脑波仪能提高孩子成绩?》的视频报导。报导中,记者进入了上海市郊的一所小学,这里正在推行一项针对学生的AI监控技术实验。学生每日到校后都要佩戴一个有三个电极的头环,这些电极会收集学生的脑电波信号并发送至教师的电脑上,人工智能算法会自动分析出学生的注意力集中程度,然后生成报告:学生越专注,获得的分数就越高。报告结果会传送到家长的手机上,实验数据也会由参与实验的科技企业和资助该研究项目的政府共享。

对于这场实验在教学方面所带来的效果,这所学校的老师认为,学生在课堂上的注意力比之前更集中,学习更加勤奋,也取得了比以往更高的分数:“上课回答我的问题,他们的声音会比平常更响亮。”视频中,学生们并没有对佩戴头环表现出抗拒,有同学肯定了头环对他学业方面的帮助,但同时有学生说头环让他们感受到了压力。有家长表示:“为了国家的研究和发展,我觉得这没什么问题。”更多的家长告诉记者,他们并不清楚这些数据最终会去向哪里,他们并没有对这个项目给予太多关心。

《华尔街日报》采访了加州大学旧金山分校的神经科学家Theodore Zanto,Zanto介绍这是一种叫做脑波图(Electroencephalography, EEG)的新技术,目前为止关于它的研究还很少。他很惊讶这种技术被运用在教室上课的学生身上,因为这种技术通常是医生在医院或者实验室使用。Zanto表示,EEG技术非常容易受外界影响,一些小事都会导致测量结果不准确,比如被测者身上发痒或者有些坐立不安。

《华尔街日报》的报导没有透露进行该场人工智能实验的科技企业的名称,但根据以往的相关报导,有一家名为BrianCo的公司推出了一款名为“赋思头环(Focus 1)”的产品, 外观与功能都和《华尔街日报》报导中出现的头环极其相似,并且也曾在中国的学校里被推广使用过。

今年一月《New Scientist》发表的一篇报导指出,BrianCo公司曾进行过一次为期21天的实验,追踪一万名年龄介于10至17岁的中国学生的智能头环使用情况,测试该款产品在帮助学生提升学习效率方面的表现,但目前研究结果并未在学术期刊上发表。

在智能头环Focus 1的宣传片里,BrianCo公司表示此产品可以通过使老师和学生能及时掌握课堂注意力水平变化情况,从而“帮助学校提高教与学的效率和质量”,“让教与学成为愉快有效的双向体验”。

这款产品的功能曾于今年四月在微博上引发争议,网友的批评主要集中于人工智能头环可能给学生带来的身心压力、思想监控和对个人自由意志的侵犯等方面。BrainCo公司于四月五日在其微博主页上发布了一份公开说明,表示他们没有将产品售卖给任何公立学校,仅有部分学校在测试使用,并且是以“脑科学训练”课程为名,供学生自愿选读,强调课程的目的是为了训练和提升学生的专注力,“非用于注意力监控”。

这并不是人工智能技术第一次应用于中国校园。2018年5月,杭州第十一中学引入了一套“智慧课堂行为管理系统”,该系统可实现无感“刷脸”考勤,分析学生面部表情,采集学生行为状态信息,并对异常情况给予反馈。

2017年7月,中国国务院印发了《新一代人工智能发展规划》,提出了分三步实现在2030年使中国成为世界主要人工智能创新中心的计划。两年间,随著中国政府迅速地在全国大规模建设人脸识别监控系统和社会信用体系,关于公民隐私和公权力膨胀的担忧和讨论也从未停止。

文:端传媒实习记者 李瑞洋

本刊载内容版权为端传媒或相关单位所有,未经端传媒编辑部授权,请勿转载或复制,否则即为侵权。