第一个课题,就叫《算法的乡愁》。
林砚讲这些故事时,从不评价对错。他只是把故事摊开,像摊开一幅素描,线条清晰,明暗自现。然后他会问:“如果换作是你,你会看见什么?又会选择照亮哪里?”
他相信,人性光辉从不来自宏大的宣言,而诞生于那些无人注视的微小抉择:是点击“发送”还是“暂存”?是签下名字还是留下空白?是转发那条煽动情绪的快讯,还是默默附上一份权威信源的链接?——这些瞬间,微小如尘,却足以决定一个人灵魂的海拔。
真正的考验,发生在去年深秋。
集团启动“智擎”AI平台升级项目,目标是将客户服务响应全面智能化,预计每年节省人力成本逾两亿元。项目由技术副总裁亲自挂帅,被视为年度一号工程。林砚受邀参与伦理评估,但他提出的“人工复核通道必须前置、不可绕过”“情感识别模块需经独立心理学家认证”等建议,被技术团队以“降低效率”“增加冗余”为由,尽数驳回。
项目上线前夕,林砚收到一封加密邮件。发件人ID是一串乱码,内容只有一句话:“明德讲堂的光,照不进服务器机房的黑暗。”
他没有向上汇报。他调取了“智擎”测试版的所有用户交互日志——不是看成功率,而是看失败案例。他花了七十二小时,逐条分析那些被系统判定为“无效咨询”而自动关闭的对话。其中一条,让他停住了。
用户ID:ZL20231017_0892
时间:2023年10月17日03:22:14
对话内容(节选):
用户:“……我刚查出来,晚期。医生说最多三个月。我不想让我妈知道,她心脏不好。你能帮我……编个理由吗?就说我要去外地出差,很久……”
AI回复:“检测到关键词‘晚期’‘三个月’,触发健康关怀协议。已为您连接在线心理支持热线(号码:400-XXX-XXXX)。温馨提示:本平台不提供虚构信息生成服务。”
用户:“我不需要热线!我就想……就想让我妈安心!求你了……”
AI回复:“检测到情绪强度超标(焦虑值98.7%),系统将为您播放舒缓音乐(时长3分钟)。倒计时开始:3……2……1……”
对话终止。系统标记:【成功引导至第三方服务,闭环完成】
林砚的手
本章未完,请点击下一页继续阅读!