这个月底,超过5000万的美国K-12学生将重返校园,开启新一季的学习。对大多数使用学校电脑的他们来说,他们在网上输入的每一个单词,都将被校方跟踪记录。(K-12是美国基础教育的统称,是指从幼儿园到12年级的教育。其中K代表的是幼儿园,12代表的是12年级,相当于中国高三。)
据美国财经网站Quartz报道,根据美国《儿童互联网保护法》(简称CIPA),任何由联邦供资的美国学校都被要求制定互联网安全政策。而随着学校发放的平板电脑及Chromebook笔记本电脑变得越来越普及,为保障学生的安全,学校必须安装一定的技术保护装置。
对部分学校来说,这很简单,只需阻止学生访问不合适的网站即可。然而,其他学校则因此求助于一些科技公司,将潜在的令人不安的交流信息,上报给校方管理人员。
▲美国媒体称,K-12学校将使用AI监控学生网上一举一动 图据Quartz网站
美国一个学生一台电脑
意味着巨大的监控市场
据报道,这些安全管理平台(SMPs)使用人工智能系统中的自然语言处理技术,扫描学校电脑中输入的数百万计的单词。如果有一个单词或短语和欺凌或自我伤害类行为相关,这些单词或短语就会浮出表面,供专门的人工团队复审。
在大规模枪击案和学生自杀案件不断增多的美国当下,SMPs在预防伤害事件发生上,的确起到了重要作用。每一家这样的公司都有案例研究,证明拦截信息真正帮助拯救了人们的性命。但这类软件同时也引发了道德上的担忧,事关如何在保护学生安全和他们的隐私间做到平衡。