估值10亿美元的“AI班主任”全天候监控学生上网，是福音还是帮凶？

估值10亿美元的“AI班主任”全天候监控学生上网，是福音还是帮凶？ 原创 加美编译 加美财经

Image by mohamed Hassan from Pixabay
彭博社的普里亚·阿南德和马克·伯根发表专题报道，介绍了一个帮助学校老师监视学生的电脑活动的软件GoGuardian。这个软件记录学生在电脑上的点击、历史记录和搜索关键词等，并允许老师锁定学生的电脑。一些反对者认为这是对隐私的严重侵犯，并可能对学生造成未知的心理影响。但许多教师和学校管理员认为软件为他们提供了解决学生问题的方法，并且有效地管理了课堂纪律。
在佩金社区高中（Pekin Community High School），老师们几乎是无所不知的。在疫情时代，教育，甚至是面对面的教育，都是数字化的，工作人员使用一种软件来观察学生在学校发放的笔记本电脑上的一切行为，并让他们远离禁止的网站。孩子们也都知道。伊利诺伊州皮奥里亚郊外学校的技术主管辛西娅·辛德利特说：“他们知道自己正在被全天候监控。”
但是，课堂上的捣蛋鬼仍然存在。辛德利特调出了学生在线活动的详细统计，其中显示了违规者的身份。一个黄色的“EXPLICIT”（露骨）标签出现在一个年轻人的名字旁边，他正在谷歌上输入“性感女孩”和 “跟糖爹约会”等关键词（糖爹通常指付钱和女孩子约会的年长男人）。
其他学生在YouTube上搜索一个农场模拟游戏的视频，吉他教程，以及不知为何，还有一首关于卡车的童谣。另一个热门搜索语句是：“该如何避开GoGuardian”，这是佩金高中使用的跟踪软件的名称。GoGuardian自2014年以来一直存在，但疫情给给了教育工作者使用它的新理由，这个软件正在迅速成为美国教室内的常见工具，几乎与标准化考试一样普遍。
即使美国各地的学校已经重新开放，进行全面的线下教学，但学校仍然保留了他们在大量Zoom课程中获得的技术。这包括一些学校在疫情之前已经使用的笔记本电脑和平板电脑，以及允许学生在生病或密切接触后进行隔离上课时用的应用程序，还有允许教育工作者对他们进行监视的软件。
对孩子们来说，这意味着他们的每一次按键、点击和搜索都会被记录下来，并由总部位于洛杉矶的GoGuardian等公司进行分析。它的竞争对手包括Gaggle.Net、Securly和Bark Technologies等。

Photo by Some Tale on Unsplash
除了监控和网站过滤外，GoGuardian还销售用于教室管理、视频通话和网络安全的软件工具。其最具未来感的产品Beacon是一款人工智能软件，公司声称可以根据学生的在线行为，识别出可能伤害自己或他人风险的学生。
GoGuardian的首席执行官阿德瓦伊特·辛德说，他的公司计划为“课堂作业、家庭作业、考试”，及中小学的各个方面提供软件。他想象着计算机系统可以根据GoGuardian收集的数据推荐作业，并提供个性化的课程：“我们还没有完全发挥技术的潜力”。今年夏天，他筹集了2亿美元，对Liminex Inc. （GoGuardian的正式名称）的估值超过10亿美元。
今年早些时候，GoGuardian与特拉华州和西弗吉尼亚州的教育部门达成了协议，这两个州的每所学校都可以使用这款软件。纽约市是美国最大的学区，最近也与它签署了类似的合同，使GoGuardian的潜在覆盖面超过了2300万学生。
一些家长和隐私团体认为在教室内使用跟踪软件是令人不安的，但许多学校管理者（以及许多家长）似乎认为这些担忧被夸大了。当学生们随手浏览TikTok和Instagram时，他们就已经把个人数据交给了大公司，而且学校里的监视系统已经存在了很长时间，因为走廊间的监视器一直存在。
佩金高中的校长乔尔·施密格说：“我一直觉得他们早就被追踪了”。GoGuardian的另一个客户成功学院的管理人员说，他们听到家长要求增加对互联网内容的过滤，而不是减少它们。
即使大多数教育工作者认为，学生在使用电脑时应该受到监控，但关于电脑对未来学习的意义，却远没有那么清晰。
多年来，硅谷一直试图在教育领域留下自己独特的印记，但大多数尝试都失败了。大规模开放式在线课程（Massive open online courses，或称MOOCs），并没有像未来主义者和TED演讲者曾经描述的那样，改变高等教育的游戏规则。
扎克伯格斥资1亿美元重塑新泽西州纽瓦克的学校系统，没有太多改善的迹象，反而导致了腐败指控。AltSchool是一家由扎克伯格和顶级风险投资公司支持的教育公司，由前谷歌高管创立，于2017年开始关闭它配备了3D打印机的教室，并在2019年完全退出了学校运营业务。
硅谷在教育行业的最新尝试会有什么不同的结果吗？GoGuardian和类似的应用程序在疫情期间被匆匆送入学校。老师们喜欢这些应用程序，学生们也接受它们，它们甚至在最传统的美国社区都能立足，但实际上没有人知道这些技术的效果如何，甚至没有人知道它们是否有效。

GoGuardian的软件功能介绍，来源：网站截图
2013年，总统奥巴马公布了ConnectEd倡议，呼吁学校拥抱互联网时代，给学生提供廉价电脑。很快，iPad和Chromebook（基于谷歌浏览器的手提电脑系统）开始涌入教室，当时在谷歌担任程序员的辛德觉察到了商机。他辞去工作，与两个熟人合作，创建了一个名为Laptop Lookout的浏览器小插件。它声称可以帮助学校找到孩子们丢失的设备。他们的提案没有成功，但它给了他一个新的灵感。
辛德回忆说，当他与教师交谈时听到了这句话：“这东西很好，但我的问题是很难阻止孩子们在课堂上看视频。” 当教室引入互联网后，学校急于寻找控制它的方法。于是三人将他们的推销产品改成了一个名为GoGuardian的网络审查小工具。
他们开发的系统不会封锁整个网站（当时有许多企业的IT部门采取这种方法来控制员工的工作电脑），而是声称能分析每个网站上的文字和像素，只过滤那些被认为是不适当的或不受欢迎的网站。因此，从理论上讲，教师还是可以让孩子们上Reddit和YouTube，但不用担心他们的注意力被过度分散，或者会去看更黑暗的东西。
辛德说：“这样最终屏蔽的内容要少得多。”学校将为每个装上GoGuardian产品的学生机支付约5美元。GoGuardian在2015年筹集了500万美元的种子资金，并在最初几年看到了令人鼓舞的增长，尽管并不算引人注目。2018年，私募股权公司Sumeru Equity Partners以未披露的价格收购了公司的大部分股份，辛德的联合创始人离开，他留下来作为负责人。
辛德没有教育学的背景，31岁的他也没有孩子，他说：“我还没当父亲。”但是，他仅仅因为比一般的技术人士更讨喜而赢得了这个领域的粉丝。奥巴马时期的教育部副部长托尼·米勒说，许多向学校销售产品的硅谷高管 “以乔布斯为榜样，表现出‘我最懂’的样子”。辛德在2018年遇到了米勒，并将他招入GoGuardian的董事会。米勒说，辛德“对改善教育有一个真正的愿景，与技术无关，更多的是关心技术带来的好处。”
疫情使辛德加快了产品的推销。他通过向任何想要使用GoGuardian软件的学校免费提供试用版来增加吸引力。教师可以实时看到学生的网络浏览情况，加利福尼亚州中央谷地的特洛克联合学区的教育技术协调员马歇尔·拜尔说：“这就好像老师在他们身边一样”。
GoGuardian在这一学区跟踪了大约1.4万名学生。如果一个孩子在玩电子游戏而不是做作业，老师可以控制屏幕并强制退出游戏。Reddit上还有一些教师在对学生的搜索项目进行编目，从普通的“土豆照片”到诡异的“猫屎”等等。
2020年春季，有1000多所学校报名参加了免费试用，其中一些学校在学年结束时购买了付费账户。在某些情况下，新客户使用联邦的新冠救济基金进行购买。这助长了GoGuardian的暴涨。自2020年3月以来，公司增加了253名员工，员工总数达到约480人，辛德还收购了另外两家教育技术初创公司。
学校，而不是GoGuardian，才能决定在孩子们的电脑上禁止什么，尽管学生们并不总是知道这一点。早熟的七年级学生曾经给辛德发过电子邮件，抱怨他们在新泽西州的学区封锁了纽约时报，却让布莱巴特新闻等右翼媒体有机可乘。这个七年级学生因此指责辛德。
辛德通过视频电话，向学生们解释GoGuardian并没有做出这样的过滤决定，并建议他们去游说他们学校的管理员。此后，他再也没有收到过他们的消息。他说：“从我们的立场来看，我们没有资格判断对错。”

Photo by Bermix Studio on Unsplash
佩金是一个蓝领小镇。它的公立高中坐落在一个有必胜客和美甲店的沿路商业区旁边，离一个声称有“世界上最好的日晷”的公园一英里远。（不过它不是世界上最高的日晷，甚至不是全美最高的，但它确实有关于太阳系的信息牌，而且附近还有个环礁湖。）
三年前，佩金高中在向1800名学生发放了最基础版的宏基Chromebook电脑后，与GoGuardian签约。每年夏天，学校都会给毕业生机会选择是否保留他们的电脑（每台25美元），并订购500台新电脑。在学校工作人员的帮助下，技术主管辛德利特设置了每台笔记本电脑，其中只配备了一个网络浏览器，加上了一些图书馆和数学程序，以及一个用于记录在线课程的小部件。
她的办公桌位于学校图书馆的一个角落里，上面放着电脑上，辛德利特已经登录了GoGuardian。她打开一个标有“舰队”的界面，拉出一张数字地图，显示出每台笔记本电脑的位置。她指着屏幕说：“这台说它在6英里以外。”现在是暑假，所以这个学生在家里上网。“当有Chromebook被盗时，这非常有用。”
辛德利特和她的团队花了一些时间来弄清楚如何处理那么多涌入的情报。在首次引入GoGuardian后，佩金高中被大量的警报和“孩子们正在搜索有问题的东西”所淹没，她说：“有问题的意思就是成人内容。”
她的理念是相当自由的。一些有问题的谷歌搜索不会导致任何责罚，尽管她会把学生叫到她的办公桌前，警告他们不要用学校的笔记本电脑做越界的事情。她说：“我们没有足够的时间或人员来监控他们做的每一件小事。”

Photo by visuals on Unsplash
屡教不改者会被关进她所谓的“惩罚箱”，即一种虚拟形式的禁闭，将他们的电脑锁定在只能做学校的作业。辛德利特点击最近因在谷歌上搜索“性感女孩”而被逮到的10年级学生的搜索历史，显示出一连串的时间记录和其他顽皮的词汇。辛德利特暂时放过了他，但仍一直在关注他，以防他继续搜索成人内容。
辛德利特说：“一整个学期里，可能会有一个孩子被关禁闭。”辛德利特说，她每年还必须提醒至少一名学生不要通过学校的电子邮件账户发送情书。
对于教师来说，GoGuardian的课堂工具是最吸引人的。佩金高中的数学老师莱利·费勒说，她在教学时可以从桌上的笔记本电脑登录GoGuardian，这样她就可以限制学生在屏幕上打开的内容，让他们只做她想做的事，比如说用计算器或考试。在自习课上，她使用这个软件来观察学生们在做什么。如果有人没有在做家庭作业，她会在他们的屏幕上打开一个标签，并输入GoDoYourWork.com（进入这个网站只会出现一行字：去做作业）。她说，“我喜欢这样的东西。”她认为这是一种温和的方式，提醒他们“哦对，我现在不该做这个”。
在每堂课结束时，费勒老师都会收到一份报告，其中的饼状图总结了学生在笔记本电脑上做的事情，这有助于她了解学生在她授课时是否错过了什么信息。但在学生因生病或被隔离在家的日子里，她发现GoGuardian的作用不大。
去年，佩金高中把孩子们分成两组，每组隔天来一次。在远程学习的日子里，学生们可以自由设定自己的时间表。当孩子们面对面上课时，费勒封锁了YouTube等网站，但她不能限制学生在家里使用YouTube，因为他们可能需要访问在线视频来完成西班牙语或法语的作业。
无论孩子们在哪里，辛德利特每天都会密切关注GoGuardian。佩金的高中生几乎有一半接受免费或减价的午餐（由政府补贴），许多人会在课后打工。在疫情期间，辛德利特看着电脑上的账单支付记录、失业金申请表，她知道这些孩子的Chromebook往往是家里唯一的电脑。
有时她会看到更多令人不安的情况。在今年早些时候的一个周四的晚餐时间，辛德利特收到了一个恐慌的警报。一名学生在谷歌上搜索“如果你有自杀倾向，该如何告诉你的女朋友”。辛德利特和其他三名管理人员在一个短信聊天群中迅速采取行动，以便学校能够给这个学生的家打电话并提醒指导顾问。辛德利特拒绝分享细节，只是说这个学生最终没事了。
校长施密格说，GoGuardian可以帮助在教师、辅导员或亲人他们能够注意到之前发现学生的心理健康问题。他说，他曾打电话给家长，发现他们完全没有意识到孩子正陷入困境。他回忆说：“在过去的一年里，这种情况已经发生了多次。”

Photo by John Schnobrich on Unsplash
本学年，佩金高中开始使用Beacon，这个软件会把它认为最危险的学生提报给管理员。施密格校长说，他在使用这项服务的第一周就收到了40多个警报。每发一个警报，软件都会创建一个学生在线活动报告，所以他和学校工作人员不必通过他们的搜索历史来查找警报的源头。他说：“我已经爱上它了。”
GoGuardian早在2018年就开始测试Beacon，但是，就像公司提供的大多数服务一样，在2020年3月疫情爆发导致学校关闭后，这项服务的受欢迎程度爆发了。去年，包括拉斯维加斯在内的大区克拉克县开始使用Beacon，发现了7300多条警报，并对其中近三分之一的警报采取了行动。GoGuardian公司将这项新服务作为一种工具，帮助消除学生在疫情期间所面临的心理压力。辛德说，公司 “可能会成为指出这些问题的聚光灯。”
但一些家长和隐私团体认为Beacon象征着GoGuardian程序中最大的问题，他们认为这是种不必要的窥探，实际上反而可能造成它试图缓解的心理压力。新泽西州蒙特克莱尔市的一位家长杰夫·尚德勒说，“我们以前也曾经是青少年，不是吗？”他的学区对GoGuardian进行了测试。“你进房间里就会把门关上。我不认为有人会喜欢被监视和被跟踪。”
尚德勒是一名图书编辑，有三个孩子在公立学校读书（8岁、14岁和16岁）。今年2月，他所在地区的主管在给各家的周报中说，蒙特克莱尔市正在几个教室里试用GoGuardian。这个偏左派的郊区的家长们吓坏了，这引起了当地的新闻的报道和网上的请愿活动。
担心的部分原因是，这个地区提到GoGuardian的过滤功能将在孩子们登录学校账户时发挥作用，无论他们是在学校的笔记本电脑还是在家里的电脑上（GoGuardian说，学校可以选择是否开启在家用电脑上进行过滤的功能，但拒绝透露有多少学校选择这样做）。在伯克利，公立学区去年在类似的反对声中暂停了GoGuardian的推行。一个10年级的学生向校报抱怨说，学生们“感觉没有自己的空间”。

Photo by Matthew Henry on Unsplash
10月，三位民主党参议员致函GoGuardian及其三个竞争对手，责备他们监视学生，并使学校纪律中已经存在的“种族差异更加严重”。
马萨诸塞州参议员伊丽莎白·沃伦在给彭博商业周刊的一份声明中写道：“我们需要保护我们的学生免受这些侵犯隐私行为可能产生的长期有害影响。”
GoGuardian在一份声明中说，公司“非常关心保护学生的安全和他们的隐私”。
公司向学校提供了说明书，旨在解释技术如何运作。蒙特克莱尔的学校试图缓解家长的担忧，但尚德勒发现这些信息令人困惑。他认为GoGuardian的说法，特别是其中关于识别危险学生的说法，缺乏支持性证据。蒙特克莱尔学区负责人乔纳森·庞兹在给家长的信息中写道：“一旦知道了其他1万所学校，包括我们的邻居……也使用GoGuardian，可能会有帮助。”
批评者将GoGuardian的技术描述为一个黑盒子。美国自杀学协会（American Association of Suicidology）前主席乔纳森·辛格说，他担心学校正在部署像GoGuardian这样的工具，却没有获得任何关于它对心理健康影响的证据，或理解它背后的算法。
辛格说：“这些软件中必须有一些公众的参与。”在开发Beacon的过程中，GoGuardian的一位发言人说，公司曾与包括辛格在内的几位专家谈过。虽然辛格承认他向公司员工介绍了他的研究，但他说他仅参与到这种程度，“我甚至不知道它是如何工作的”。
学校被关于重新开放和核酸测试以及口罩要求的辩论所淹没，没有太多时间来解决这些问题。当特拉华州准备将GoGuardian引入学校时，协调推广工作的州政府官员阿丽莎·摩尔说，教育部门还没有严格测试Beacon的有效性，在向学校提供这套系统之前可能也没有机会这样做。她说：“在做其他事情之前，我需要先让这个系统运行起来。”
当学校设置Beacon时，GoGuardian的机器学习模型会记录学生输入和访问的所有内容。据辛德说，这些系统可以检测出一个帖子是否含有“普通的自杀想法”或真正的“高风险警报”。GoGuardian有一个支持团队，24小时不间断地向那些没有员工或没有意愿自己做筛选的学校发出警报，这让公司对如何处理事件承担了更多责任。当工作人员审查警报并认为情况严重时，他们会给学校打电话。
辛德表示，GoGuardian的目标是确保学校意识到这个问题，但“我们只能做到这一步，我们希望他们会采取下一步行动”。GoGuardian拒绝透露团队中有多少人，称这个数字是保密的。公司表示，它会根据需求改变全天候工作人员的数量。
GoGuardian和其他许多科技公司一样，拒绝透露其算法如何做出判断的具体细节。辛德说，GoGuardian遵守了所有关于学生数据和隐私的联邦法律。如果警察被带去调查警报，GoGuardian允许学校决定分享哪些数据。而且，公司认为Beacon是有效的。
辛德说：“我们的客户说，‘如果没有Beacon这样的工具，有些孩子已经不在这个世界上了。因此，从这类证据来看，这才是我们真正赖以生存的立足点。”
GoGuardian的一些竞争对手期望走得更远，他们销售的服务是通过收集学生的搜索、点击和社交媒体的帖子，试图明白他们的思想，找出愤怒或伤害的感觉。到目前为止，GoGuardian避免了这种所谓的情绪分析。
辛德说，让计算机扮演儿童心理学家是不现实的。技术还不够完善，无法可靠地做到这一点。但是，他补充说：“我们当然希望有一天能扩展到这个领域。”