老夫子刚挂掉电话,平板屏幕还没暗下去,一条红色弹窗跳了出来。
【紧急通知:AI情感识别模块遭媒体曝光,质疑存在心理操控风险】
他盯着那行字看了两秒,手指划过屏幕,调出金手指系统。数据流立刻铺满页面,过去七十二小时的网络舆情像拼图一样自动组合成型。首发账号Ip定位在境外,注册信息虚假,粉丝全是机器人。典型的水军套路。
“来得挺准。”他低声说。
电脑旁边还开着上一场会议的记录文件,海外服务器的扫描结果也刚回传。外部有人盯着他们,这已经不是秘密。现在对方动手了,不是从技术层面突破,而是直接打舆论战。
他抓起手机拨通技术部主管的号。
视频接通,对面是张睡眼惺忪的脸。“老夫子?这个点……”
“别睡了。”老夫子打断,“你现在去召集项目组,把原始设计文档、算法逻辑说明、第三方测试报告全部整理一遍。明天之前,我要看到完整的答辩材料。”
“答辩?谁要我们答辩?”
“伦理委员会。”他说,“他们已经在路上了。”
视频那头的人猛地坐直。“可我们没违规啊!”
“有没有违规不重要。”老夫子靠在椅背上,“重要的是别人觉得你有没有问题。现在有人放话出来,说我们的系统能让人不知不觉花钱,还能影响青少年情绪。你觉得公众会不会信?”
对方沉默了几秒。
“准备开会。”老夫子说,“一小时后远程连线,全员到齐。另外,通知公关组,先发一份简短声明,就说项目一切合规,正在配合审查。别解释太多,越描越黑。”
电话挂断,房间里安静下来。
窗外城市还在沉睡,远处几栋高楼亮着零星灯光。他没动,打开金手指的历史分析功能,重新跑了一遍传播链。这次他重点关注的是那些转发量最高的自媒体账号。果然,有几个平时从不碰科技话题的博主突然连发三条长文,用词激烈,节奏一致。
“有人在背后推。”他自言自语。
系统提示音响起:【已生成应对策略建议,是否查看?】
他点了确认。
屏幕上跳出三条主线策略:
1. 强调辅助性,弱化干预性
2. 用生活场景类比技术原理
3. 主动提出监管机制
他看完,嘴角微微扬了一下。“还算靠谱。”
一个小时后,远程会议开始。
屏幕上十几张脸陆续出现,有技术骨干,也有产品经理。大家神色都不太轻松。
“我知道你们心里憋屈。”老夫子开口,“辛辛苦苦做的东西,被人说成精神控制工具。但骂解决不了问题。我们现在要做三件事:第一,把技术讲清楚;第二,把立场摆明白;第三,让外行人也能听懂我们在做什么。”
有人举手:“我们可以直接甩代码吗?白纸黑字写着没任何诱导逻辑。”
“不行。”老夫子摇头,“伦理委员会里一半人看不懂代码。你扔一堆术语上去,他们只会觉得你在隐瞒。”
“那怎么说?”
“打个比方。”他说,“就像医生看病,看到病人皱眉,语气就会放轻一点。我们的系统也是这样,只是根据用户的情绪状态调整交互方式,让它更舒服。这不是操控,是体贴。”
会议室里安静了几秒。
“这说法……好像还真能用。”一个工程师嘀咕。
“不止是说法。”老夫子调出ppt,“我们要让他们知道,这个功能从立项第一天就设置了限制。比如不能用于广告推送,不能主动触发情绪变化,所有数据加密存储,用户随时可以关闭。”
“还要加一条。”另一个声音插进来,“我们内置了行为预警机制。如果某个操作连续三次被判定为异常使用,系统会自动冻结接口,并上报监管平台。”
老夫子点头:“把这个写进材料里。我们要表现出来的不是‘我们没问题’,而是‘我们知道可能有问题,所以我们提前防住了’。”
会议开了两个小时。
散会前,他留下几个核心成员,启动模拟答辩环节。
一人扮演伦理委员,提问毫不留情:“如果这项技术被用来做直播带货,主播的声音随着观众情绪实时调整,让他们更容易下单——这算不算变相洗脑?”
老夫子没急着回答,而是反问:“如果一把菜刀能切菜也能伤人,是不是就该禁止卖菜刀?”
对方一愣。
“技术本身没有善恶。”他说,“关键是谁在用,怎么用。我们不能因为怕出事,就把所有可能性都堵死。正确的做法是立规矩,划红线,谁越界就罚谁。”
又一个问题:“你们如何证明不会偷偷收集用户心理数据?”
“我们不收集。”他答得干脆,“采集仅限于交互过程中的即时反馈,不留存,不关联身份,结束后立刻销毁。第三方审计报告第十七条写得很清楚。”
模拟结束,所有人松了口气。
“材料再改一遍。”老夫子说,“明天上午十点提交。记住,态度要比事实更重要。我们要让他们感觉到,我们不是在应付检查,是在认真对待这件事。”
第二天听证会准时开始。
线上会议室里,伦理委员会七名成员全部出席。背景是统一的灰白色墙面,表情严肃。
主审委员开门见山:“你们的技术确实先进。但我们担心的是边界。一旦放开,谁能保证它不会被滥用?”
老夫子坐在镜头前,面前摆着三份文件。
“我先承认一点。”他说,“这种担忧完全合理。任何能感知情绪的技术,都有潜在风险。所以我们在设计之初,就加入了三层熔断机制。”
他打开演示文档。
“第一层,权限锁死。只有获得用户明确授权的功能才能启用,且每次使用都会弹出提醒。”
“第二层,场景隔离。系统无法接入金融、医疗、教育等高敏感领域。”
“第三层,动态监控。一旦发现异常调用模式,比如短时间内频繁请求情绪分析,接口会自动锁定,并向监管部门发送警报。”
屏幕上同步展示流程图。
一名女委员问:“这些机制由谁监督?”
“我们自己上报,但数据由独立机构核验。”他说,“每个月公开一次审计结果,接受社会质询。”
会议室陷入短暂沉默。
主审委员翻了翻手里的资料。“你们原本可以否认争议,拖延审查。为什么要主动提交这么详细的监管方案?”
“因为躲不开。”老夫子说,“新技术总会被怀疑。与其等它变成谣言,不如早点说清楚。我们不怕查,就怕误会积累到最后没人愿意听解释。”
又是一阵安静。
最后,投票开始。
七票中,五票赞成,项目可在严格监管下继续推进。
会议结束时,时间已是深夜。
老夫子关掉设备,靠在椅背上闭眼片刻。房间里只剩下风扇转动的声音。
他睁开眼,重新点亮平板,打开一封未读邮件。
标题写着:【关于联合实验室选址的初步建议】
他正要点击查看,手机忽然震动。
来电显示是一个陌生号码。
他犹豫了一下,按下接听。
对方没说话,背景有些杂音,像是风声。
“找谁?”他问。
电话那头传来一声轻笑,很短,随即挂断。
老夫子看着黑下去的屏幕,手指慢慢敲了敲桌面。