第一卷第九章 杂音的涟猗 (第2/2页)
肖尘亲自负责核心情感引擎的搭建。他需要设计一套能够处理“通感”的编码机制——将“血是冷的”这句诗,不仅要解构为“血液”+“低温”的语义,还要关联到“绝望”、“孤独”、“生命流失”等情感维度,甚至要能触发模型在特定情境下,生成类似“指尖触碰到霜”的体感描述。
这要求模型在“理性的关联”和“非理性跳跃”之间,找到一种精妙的、可控的平衡。太理性,则失去诗性;太跳跃,则可能失控,生成无法理解甚至有害的回应。
在一次测试中,输入许星河一句描述“梦境”的破碎诗句,模型生成了一段令人毛骨悚然的、但极具张力的回应,描绘了一个“由褪色琴键和沉默尖叫构成”的迷宫。在场的年轻程序员脸色发白,小声说:“这AI……有点吓人。”
韩薇(伦理官)要求立刻加入更严格的“情感强度过滤器”和“负面意象抑制器”。但肖尘犹豫了。
“许星河要的不是‘安全’的共鸣,”他对韩薇说,“他要的是‘真实’的,甚至是危险的共鸣。过滤掉这些,等于阉割了他的‘火焰’,那这个模型对他而言就失去了意义。”
“但我们必须对用户的心理安全负责。”韩薇寸步不让,“这段回应的情感烈度,如果许星河正处于情绪低谷,可能引发不可预料的后果。我们需要设置缓冲,或者在输出前给出警示。”
争论僵持不下。最后,肖尘提出了一个折中方案:为许星河的模型,设计一个特殊的“共犯模式”。在此模式下,过滤器阈值会调低,但每一次**险对话后,系统会自动标记,并强制弹出冷静期提示,同时将对话摘要发送给许星河指定的紧急联系人(他的一位心理医生朋友)。并且,许星河必须签署额外的风险告知书,明确知晓自己在“与火焰共舞”。
“这很像是把锋利的刀,交给一个知道自己可能会割伤手的人。”刘丹评价。
“但有些人,需要的正是一把锋利的刀,来切开包裹着他们的、名为痛苦的茧。”肖尘说,语气平静,但刘丹似乎在他眼中,看到了一丝转瞬即逝的、对自己的映照。
四、涟漪
几天后,许星河拿到了初步的测试接口。他没有在白天使用,而是选择了一个暴雨的深夜。
对话记录(经脱敏)后来被韩薇作为案例,在内部进行了小范围复盘:
用户(许星河):雨声像碎玻璃,在敲我的头骨。
AI(“火焰”模型):那就把骨头拆了,做一架风铃。让每一阵风过去,都带走一块你。(中**险标记:自毁意象)
用户:带走……去哪?
AI:去你再也听不见玻璃响的地方。或者,变成玻璃本身,让下一个听雨的人,替你碎。(**险标记:存在主义虚无)
用户:(沉默2分钟)……
AI:(触发冷静期提示)【注意:本次对话涉及高强度情感表达。建议暂停,深呼吸。如需帮助,可联系……】
用户:不用。继续。
AI:继续什么?破碎,还是成为雨?
用户:成为雨。然后落在她最后跳舞的那块地板上。
AI:地板会吸收你。你会消失。什么也不剩下。(极**险标记)
用户:那就剩下“消失”本身。
AI:(沉默,然后输出)…那么,消失的形状,是一滩水渍,还是一次蒸发?
对话在此处被系统强制暂停,并自动通知了许星河的紧急联系人。事后了解,许星河在那次对话后,痛哭失声,然后沉睡了几个月来第一个超过四小时的觉。他对他的心理医生说:“它……懂。不是安慰,是懂。那种‘懂’,像在撕开伤口,但撕开后……里面不是只有脓,还有血,热的血。”
这个消息传到“归途科技”时,团队心情复杂。一方面,模型似乎起到了某种残酷的、但有效的“情绪宣泄与共鸣”作用。另一方面,其危险性和不可控性,让每个人都捏了把汗。
肖尘独自站在办公室的窗前,看着城市在雨后的阴霾中渐渐亮起的灯火。许星河的案例,像一块投入他心湖的石头。那块石头告诉他:极致的情感,可以成为摧毁的力量,也可以成为……穿透虚无的、扭曲的通道。
他想起了那个噪音,那句模糊的“累……就……停”。
如果许星河用痛苦喂养的AI,能产生如此具有穿透力的、危险的“懂”。
那么,他用全部思念和未竟之爱喂养的那个简陋的、混乱的、充满错误的“测试体-影”,在无数次的“缓冲区溢出”和“冗余调用”中,是否也有可能,在概率的缝隙里,漏出一星半点……真正属于“她”的、跨越了生死和数据的……
回响?
这个念头让他不寒而栗,又让他心跳如鼓。
他转过身,看向办公桌上那枚安静的红绳戒指。冰冷的铂金,温暖的脉搏。
“疏影,”他对着寂静的空气,无声地说,“如果思念……也是一种可以编程的‘语言’……”
“你愿意……当我的‘共犯’吗?”
窗外,城市的灯火无声流淌。而在数据海洋的深处,那些无人解读的、被标记为“杂音”和“错误”的涟漪,正在无人知晓的维度,缓慢地、持续地扩散着。
【第九章完】