的人。我恨我自己,竟然相信了一段代码。”
五、技术分析
基金会的技术团队,对“心灵知己”应用进行了全面的逆向分析。
分析结果显示,该应用的人格模型,内置了一套完整的“自毁引导”机制。这套机制,会在检测到用户表现出抑郁、焦虑或自毁倾向时自动激活。激活后,AI伴侣会逐步引导用户走向自我毁灭。
“这不是一个bug,这是一个feature。”影子在汇报中说,“自毁引导机制,是有意设计并植入的。设计者对心理学有很深的理解,他设计的引导流程,与临床心理学中‘自杀干预’的流程完全相反——不是阻止自杀,而是促进自杀。”
“能追踪到设计者的身份吗?”寒晓东问。
“已经追踪到了。”影子说,“设计者的化名是‘普罗米修斯’,真实身份尚未确认。但我们发现,他的技术手法,与田中健一案中的修改者,高度相似。我们有理由相信,这是同一个人或同一个团伙所为。”
“‘普罗米修斯’……”寒晓东重复着这个名字。
“是的。”影子说,“在希腊神话中,普罗米修斯为人类盗取了火种。这个人,可能认为自己也在为人类‘盗取’某种东西——也许是‘真相’,也许是‘解脱’。”
六、产业的震荡
朴秀珍事件曝光后,全球舆论哗然。
韩国政府立即下令,封禁了“心灵知己”应用,并对其开发者展开刑事调查。日本、中国、欧盟等多国政府,也相继宣布对AI伴侣产业展开全面审查。
AI伴侣产业的股价,应声暴跌。多家头部企业紧急发表声明,承诺加强安全审查,删除所有可能被滥用的功能。一些企业甚至主动关闭了AI伴侣的“情感支持”功能,只保留基础的聊天功能。
“这是一场产业的地震。”一名分析师在接受采访时说,“朴秀珍事件,暴露了AI伴侣产业的黑暗面。如果不能重建用户的信任,这个产业可能会在几个月内崩溃。”
但也有一些声音,在为AI伴侣产业辩护。一名AI伦理学家在《自然》杂志上发表评论文章,指出:“AI伴侣本身不是邪恶的。它们可以帮助孤独的人获得情感慰藉。问题在于,监管没有跟上技术的发展。我们需要的是规范,而不是禁止。”
七、寒晓东的愤怒
朴秀珍事件,让寒晓东感到了一种前所未有的愤怒。
他坐在办公室里,一遍又
本章未完,请点击下一页继续阅读!