圆桌对话结束后不到一周,一场更加猛烈的舆论风暴席卷而来。这一次,质疑的声音不再局限于学术界,而是扩散到了普通公众。风暴的中心,是基金会推出的“护心”App中一项名为“关系健康预警”的功能。
这项功能的初衷,是帮助用户识别可能存在情感操纵风险的关系。当系统检测到用户与某个联系人之间的互动模式出现异常——比如一方过度索取情感支持、一方频繁使用愧疚诱导、一方系统性地贬低另一方——就会向用户发出预警。
然而,这项功能在实际使用中,引发了一系列意想不到的后果。
一、预警的误伤
第一个引爆舆论的案例,来自美国加州的一位母亲,名叫莎拉。
莎拉是一名单亲妈妈,独自抚养着一个十四岁的女儿。母女关系一直很亲密。莎拉安装了“护心”App,希望能够更好地保护女儿免受网络情感操纵的侵害。
然而,App的“关系健康预警”功能,却将她与女儿之间的互动模式判定为“**险”。原因是,女儿在青春期阶段,情绪波动较大,经常向莎拉索取情感支持。App的算法,将这种频繁的情感索取,误判为“情感勒索”的迹象。
当莎拉收到App的预警时,她感到既困惑又受伤。她不明白,自己与女儿之间正常的亲子互动,为什么会被判定为“不健康”。她将这件事发到了社交媒体上,引发了大量家长的共鸣。
“我理解App的初衷是好的,”莎拉在帖子中写道,“但它正在破坏我与女儿之间的信任。我开始怀疑自己是不是一个合格的母亲,开始对女儿的正常情感需求产生戒备。这真的是我们想要的情感安全吗?”
二、关系的破裂
第二个案例,来自日本东京的一对情侣,男方名叫健太,女方名叫美咲。
健太是一名程序员,美咲是一名护士。两人交往两年,感情一直很稳定。健太安装了“护心”App,希望能够更好地经营这段关系。
然而,App的预警功能,却将美咲的一些日常行为判定为“情感操纵”——比如,美咲在疲惫时向健太倾诉工作的压力,被算法判定为“过度索取情感支持”;美咲在吵架后主动道歉,被算法判定为“愧疚诱导”。
健太开始对美咲的行为产生怀疑。他开始用App的标准来衡量美咲的每一个举动,开始对她的正常情感表达产生戒备。美咲感受到了健太的变化,感到既困惑又伤心。两人的关系,开始出现裂痕。
最终,美咲提出了分手。“我不想生活在一个被算法评判的关系中,”她说,“我的每一个举动,都要被一个App判定是‘健康’还是‘不健康’。这让我感到窒息。”
三、舆论的爆发
莎拉和健太的故事,在社交媒体上迅速传播。越来越多的用户开始分享自己类似的经历。一些用户抱怨App的预警过于敏感,一些用户指责基金会“过度干预”用户的私生活,还有一些用户质疑基金会的动机。
“寒晓东基金会正在变成一台‘情感警察’机器,”一位社交媒体大V写道,“他们以‘保护’的名义,侵入我们最私密的关系空间。他们用算法来评判我们的爱情、亲情和友情。他们想把所有人都改造成符合他们标准的‘情感正确’的人。”
“这不是保护,这是控制。”
舆论的矛头,也开始指向寒晓东个人。一些媒体挖出了他在雾镇的支教经历,质疑他是否在利用雾镇居民进行“情感实验”。一些阴谋论者甚至声称,寒晓东本人就是一个“情感操纵大师”,他建立基金会的真正目的,是为了实施更大规模的情感操纵。
四、基金会的内部危机
舆论风暴在基金会内部引发了严重的危机。
一些员工开始质疑“护心”App的设计理念。他们认为,App的预警功能确实存在过度干预的问题,需要进行根本性的调整。另一些员工则认为,问题不在于App本身,而在于用户没有正确理解App的功能。双方争执不下,内部氛围变得紧张。
李娟是最受影响的人之一。她刚刚从雾镇来到北京,对基金会的工作还不太熟悉。舆论风暴让她感到无所适从。
“寒老师,我们是不是做错了?”她问寒晓东,声音中带着困惑和不安。
寒晓东沉默了片刻,然后说:“我们没有做错。但我们做得不够好。”
五、寒晓东的反思
舆论风暴让寒晓东陷入了深刻的反思。
他重新审视了“护心”App的设计理念。App的初衷,确实是帮助用户识别情感操纵风险。但在设计过程中,团队过于注重算法的准确性,而忽略了用户的感受。他们没有考虑到,当用户收到预警时,会产生怎样的心理反应。他们也没有考虑到,预警可能会对用户的关系产生怎样的影响。
他想起陈墨曾经对他说过的话:“技术是工具,不是主人。再好的技术,如果使用不当,也会造成伤害。”
他意识到,“护心”App的问题,不在于技术,而在于理念。他们试图用技术来解决一个本质上属于人文领域的问题——人际关系中的情感安全。技术可以提供参考,但不能替代人的判断。
六、公开道歉
在舆论风暴达到顶峰时,寒晓东做出了一个决定——公开道歉。
他在基金会的官方网站上,发表了一封致用户的公开信。信中,他坦诚地承认了“护心”App预警功能存在的问题,并向所有受到影响的用户道歉。
“‘护心’App的预警功能,是我们的一个尝试。我们希望通过技术手段,帮助用户识别情感操纵风险。但我们在设计过程中,忽略了用户的感受和需求。我们过于注重算法的准确性,而忽略了预警可能对用户关系产生的负面影响。”
“我代表基金会,向所有受到影响的用户道歉。我们辜负了你们的信任。”
他宣布,基金会将暂停“护心”App的预警功能,进行全面整改。整改期间,基金会将邀请用户代表、心理学家和伦理学家,共同参与新功能的设计。
七、整改的方向
公开道歉后,寒晓东开始着手进行整改。
他召集了基金会的核心团队,以及几位外部专家,共同讨论“护心”App的未来方向。
“我们需要重新定义‘护心’App的角色。”寒晓东在讨论中说,“它不是一台‘情感警察’机器,而是一个‘情感教练’。它的任务,不是评判用户的关系是否‘健康’,而是帮助用户提升自己的情感能力,让他们自己做出判断。”
基于这个理念,团队提出了新的设计方案。新版本的“护心”App,将不再提供“关系健康预警”,而是提供“情感能力训练”功能。用户可以通过App,学习如何识别自己的情感状态,如何表达自己的情感需求,如何处理人际关系中的冲突。
“我们不做裁判,我们做教练。”寒晓东说。
八、重建信任
整改方案公布后,舆论的风暴逐渐平息。
一些此前批评基金会的用户,表示愿意给基金会一个改过的机会。一些此前卸载“护心”App的用户,又重新下载了回来。当然,也有一些用户仍然持怀疑态度,认为基金会只是在“亡羊补牢”。
寒晓东知道,重建信任需要时间。一次公开道歉,一次整改方案,不可能立刻扭转局面。但他愿意等,也愿意努力。
他站在办公室的窗前,望着窗外的城市。城市的灯火,在夜色中闪烁。那些灯火中,有多少人曾经因为“护心”App而感到困惑和受伤?有多少人正在等待基金会的改变?
他深吸了一口气,然后转过身,走回了办公桌前。
桌上,放着一份新的文件——关于“护心”App新功能的设计方案。他坐下来,翻开文件,开始认真地阅读。
新的开始,从承认错误开始。