把人当成人

有一家叫旷视科技的人工智能公司,拥有全世界最领先的人工智能算法和人脸识别技术,最近他们在演示自己的产品如何在教育领域应用时用了这么一张图。

这张图显示,优发娱乐登录系统实时监控着课堂上学生的一举一动,可以记录统计各种行为的次数。

到底是在听讲、阅读、举手,还是在趴桌子、玩手机、睡觉,全都一览无余。这宛如《黑镜》的一幕让很多人感到有点不寒而栗。

这套系统可以“无死角巡航拍摄教室并自动变焦拍摄人脸”,“通过对课堂视频数据进行实时的结构化分析,反馈学生行为、表情、专注度、上座率等多维度课堂数据”。

在引起争议之后,旷视科技在声明里辩解说,这张课堂行为分析图片只是“技术场景化概念演示”,言下之意只是一个概念,还没有正式投入使用。

但其实这样的应用场景早已不只是概念演示而已,在很多学校正在成为现实,最近就有很多这样的新闻。

有大学。

有中学。

也有小学。

这些学校用的也许并不是旷视科技的系统,但这不重要。

这些系统名字各有不同,有的叫“智能课堂行为分析系统”,有的叫“智慧课堂行为管理系统”。

它们的功能都大同小异,都是每隔30秒或者一两分钟进行一次扫描,识别学生到底是在认真听讲,还是在开小差打瞌睡。

有的系统还能识别学生的面部表情,分析学生们到底是高兴、伤心,还是愤怒、反感。

上海那所小学的系统,甚至还会捕捉“孩子在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为”。

出于好奇我又用“facial recognition”, “class performance”这些英文关键词搜了一下,发现人脸识别进校园并不只出现在中国。

在全世界范围内,都有人工智能公司在推销推广类似的方案,很多国家也有学校在做这样的尝试。

全世界有那么多的学校,如果都能安装人脸识别系统,可以想见未来这是一个多么巨大的市场,有多少人正在垂涎欲滴地希望分食到蛋糕。

但是,如果对比一下国内和国外的情况,还是能发现稍微有一些不太一样的地方。

最明显的区别就是,美国的学校在试图说服外界时,通常会引述校园枪击案频频发生的大背景。

他们强调安装这套系统的目的是,为了能够在第一时间识别出现在校园里的可疑人物,这样一旦有紧急情况发生就能多争取几分钟乃至几秒钟宝贵的应急反应时间。

在公开的媒体报道里,我还没有看到有学校宣称要用这套系统去分析学生表情和监控学生的课堂表现。

但即使这样,还是有很多批评和质疑的声音。

2017年,纽约州一个叫Lockport的小城市,教育部门宣布将在2018年为辖区内的中小学购置摄像头和搭建人脸识别系统,成为全美第一个这么做的公立学校系统。

消息传出后,学生、家长、民间组织纷纷反对。一个叫NYCLU的民间组织在写给纽约州教育部门的信里说:

人脸识别系统通常用于警察办案、赌场监控和军事设施,安装在学校里是不合适的。

最终纽约州教育部门紧急叫停,这个计划被搁置,Lockport几所学校直到今年开学也没有装上这套系统。

全美范围内,不少城市已经或者正在试图立法限制人脸识别技术的应用范围,其中就包括处在科技发展最前沿的旧金山。

而反观国内,那些已经安装或者计划安装人脸识别系统的学校,一开始在对外宣传时都是得意洋洋地把“能够监控学生的表情和行为”作为卖点,完全没有意识到这背后存在的道德伦理问题。

用于保护学生人身安全、识别可疑人物,尚且可以理解;但如果往前一步,把监控重点放在学生的课堂表现上,性质就完全不一样了,有一条线被越过了。

媒体质疑这类系统,通常会批评它是对隐私的侵犯。

但我觉得其实侵犯隐私还是一个何不食肉糜的问题,这类系统最让人不舒服的地方是,在侵犯了隐私之前,它首先侵犯的是孩子们作为人的尊严。

说白了就是在摄像头背后的学校和老师,是不是把学生当成独立平等的个体,是不是当成一个个鲜活的人来对待。

中小学生在课堂上有开小差、打瞌睡、顽皮打闹,本来都是再正常不过的事。

作为教育工作者,如果在内心把学生当作人来对待,就会承认每个人都有喜怒哀乐的不同情绪,有喜欢与厌恶的不同情感,有兴奋和倦怠的不同状态。

你会依靠自己的眼睛去观察,而不是依靠冷冰冰的机器和算法去捕捉和分析。

你会容忍、会原谅他们在正常范围之内的情绪波动和状态起伏,而不是把每一次无关紧要的瞌睡、发呆都记录在案,当成打分考评的依据。

教育是什么啊?

教育不是用机器去分析机器,不是用机器去控制机器,不是去培养能通过考试的合格流水线产品。

教育是用生命去影响生命,用生命去感动生命。

设想一下,如果我每天被机器这样监控,被机器分析我的表情,我的心理状态,我会觉得不舒服,不自在,我会觉得不被尊重,我会开始拘谨、小心翼翼,甚至会开始怀疑我自身存在的价值。

就好像微博上有人说的:

“旷视的三位创始人是清华姚期智班三位毕业生,而搜索创始团队其他的5号员工、6号员工之类,也都是天才少年、奥赛金牌的关键词。

我本人关于校园的美好记忆,来自于上课时的纸条、干脆面、偷瞄喜欢的女生,我不懂天才少年眼中的精英教育是什么样子的,不知道估值800亿的旷视有多了不起,也不知道危机公关声明的保护学生隐私权和他们的通稿哪个说的是真的。

我只是觉得,如果有人要控制、扼杀和剥夺亿万人少年时代的情感,那他的公司技术再突破也并不会青史留名,而只会被刻在历史的耻辱柱上。”

其实也不只是教育,仔细分析一下,你会发现很多事最根本的问题都在于是不是把人当成人来看待。

看《美国工厂》,我印象最深的是其中一个美方工人说的话,他说我们所想要的,是“被体面地对待” (get treated with common decency)。

这种体面的对待是什么呢?无非就是不想加班的时候不会被强制加班、在危险作业的时候有足够的安全保护措施。

这些都不过是社会发展到一定阶段以后,一个有尊严、渴望体面生活的人最正常最基本的诉求。

把人当作人体面对待,短期看起来,工人也许会牺牲工作效率,学生也许会变得没那么容易管理。

但从一个社会的整体来说,却可以激发出潜力无限的创造性,激发出一个社会真正的活力和竞争力。

说回人脸识别技术,这是科技发展的趋势所在,我们的生活里一定会有越来越多的应用场景。

也许未来,不只是学校想要用这些系统来分析学生的课堂表现,公司和工厂也会用这些系统来分析员工的工作状态乃至精神和思想面貌,实现对人的高效管理和控制。

这个大趋势我们谁也阻挡不了。

但我还是希望,那些驾驭、决定着这个大趋势如何发展的人——开发这些技术的科技公司、决定是否实施这些系统的学校校长、公司主管,能够在做出决定的时候稍微地限制一下自己的想象力、贪婪以及野心。

希望他们能够记得,他们手中的技术所影响的是一个个活生生的人,能够记得科技的发展不是为了控制人,而是为了让每一个普通人都能拥有更美好的生活。



相关:

王伟:中国最后的驯鹿部落——敖鲁古雅   “敖鲁古雅”为鄂温克语,意为“杨树茂盛的地方”。17世纪中叶,驯鹿鄂温克人从贝加尔湖流域的勒拿河一带,游猎迁徙到额尔古纳河流域,在大兴安岭密林中靠狩猎和饲养驯鹿为生。生活在敖鲁古雅鄂温克民族乡的..

丽香铁路蒙古哨隧道贯通 全线建成后将改善当地出行条件  丽香铁路蒙古哨隧道贯通 全线建成后将改善云南藏区出行条件   中新网昆明9月4日电(王鹏 郝亚凡 孙臣领)记者4日从中国铁路昆明局集团滇西铁路建设指挥部获悉,当天由中铁二十一局和中铁隧道局共同承担施..

公安部教育部部署加强中小学幼儿园安全工作  公安部教育部部署加强中小学幼儿园安全工作 要求“六个必须到位”  新华社北京9月4日电(记者熊丰)公安部、教育部4日在京联合召开电视电话会议,提出校园安全工作要做到“六个必须到位”:做好校园安全工作..