林砚之的指尖刚触碰到指挥中心的玻璃门,智能门禁便发出清脆的提示音。屏幕上跳动的日期格外醒目:2044年7月1日,《黄浦市未来科技伦理治理框架》正式实施的第三十。她刚跨进门,安全组组长陆凯就抱着平板电脑冲了过来,屏幕上的红色预警像道烧红的烙铁,烫得人眼睛发紧。
“林局,智愈科技拒绝提交AI诊断算法!”陆凯的声音带着急促,“他们法务部刚发了律师函,我们的伦理审计要求侵犯商业秘密,下午就要去法院提起行政诉讼。”
林砚之接过平板,指尖划过“智愈科技”四个字时,指腹泛起一阵凉意。这家企业是黄浦市AI医疗领域的龙头,其核心产品“智愈-200”AI诊断系统覆盖了全市60%的社区医院,主打“毫秒级精准诊断”。三前,伦理审计组按《框架》要求调取其算法核心模块时,对方第一次亮出了强硬态度。
“通知法务组立即准备应诉材料,下午两点法院见。”林砚之转身走向办公室,途经监控大屏时,瞥见上面正循环播放《框架》核心条款,“科技项目立项与伦理评估同步、产品研发与安全测试同步、市场投放与动态监管同步”的字样在蓝光下格外清晰。她想起上月峰会闭幕式上,周明远教授的叮嘱:“伦理框架落地的第一仗,必须守住。”
上午十点,智愈科技的会议室里气氛剑拔弩张。cEo沈敬东把林砚之的公函拍在红木办公桌上,价值百万的定制钢笔在桌面滚动,发出刺耳的声响:“林局,我们花了八年、烧了二十亿才研发出‘智愈-200’,核心算法是命根子!脱敏审计?谁能保证数据不会泄露?这不是逼着我们把饭碗递出去吗?”
林砚之坐在真皮沙发上,面前的玻璃杯里,龙井茶叶沉在杯底,像极了那些被忽略的隐患。她从公文包里拿出一份病例复印件,推到沈敬东面前:“沈总,去年三月,江浦区三名罕见病患者,因为‘智愈-200’未纳入罕见病伦理数据样本,被误诊为普通感冒,其中一位老人延误治疗,至今还在IcU。这也是你们的‘命根子’带来的后果?”
沈敬东的脸色瞬间涨红,抓起病例摔在地上:“个案!那是数据标注失误,早就整改了!伦理审查就是创新的枷锁,再这么折腾,黄浦的AI医疗迟早被其他城市甩开!”
“没有伦理的创新,是带毒的翅膀。”林砚之站起身,居高临下地看着他,“二十年前,自动驾驶刚起步时,也有人安全测试阻碍发展,结果呢?一场算法失误导致的车祸,让整个行业停滞了三年。沈总,你想重蹈覆辙吗?”
下午两点,黄浦市中级人民法院的法庭内座无虚席。旁听席上,既有高校伦理学者,也有医疗行业代表,还有抱着病历本赶来的患者家属。智愈科技的辩护律师李然一开场就抛出重磅论点:“《框架》要求公开核心算法,实质是变相剥夺企业知识产权。科技企业投入巨额研发成本,却要被迫‘裸奔’,长此以往,谁还敢创新?”
他举起一份行业报告:“据统计,实施算法强制审计的地区,AI医疗企业研发投入下降40%。黄浦市要打造科技高地,就不该用伦理枷锁捆住创新的手脚!”
旁听席上响起一阵骚动,林砚之注意到,后排几位患者家属的眉头拧了起来。轮到她答辩时,她没有急着翻材料,而是按下了投影仪的开关。屏幕上首先出现的,是三张病床照片——三位老人躺在病床上,手臂上插着输液管,床头的诊断牌上,“误诊延误治疗”几个字格外刺眼。
“这就是李律师口之可以接受的创新代价’。”林砚之的声音透过音响传遍法庭,“智愈科技的算法数据库里,罕见病样本占比不足0.3%,而全国罕见病患者超过2000万。他们为了追求‘诊断速度’,刻意规避镣概率但高风险的伦理数据,这不是创新,是对生命的漠视。”
她接着展示第二组证据:智愈科技近三年的伦理投诉记录,足足有76起,其中23起涉及误诊,却从未向监管部门报备。“《框架》要求的脱敏审计,是去除商业机密信息后,对算法的伦理合规性进行审查,比如数据样本是否全面、决策逻辑是否兼顾特殊群体、是否预留人工干预端口。这不是要偷技术,是要给AI装‘伦理刹车’。”
李然立刻反驳:“脱敏技术无法保证绝对安全!一旦算法逻辑泄露,竞争对手就能轻易复制,这对企业不公平!”
“公平?”林砚之突然提高声音,指向旁听席,“那位穿蓝色外套的女士,她的父亲就是去年被误诊的患者。对她来,什么是公平?是企业的商业机密重要,还是普通饶生命安全重要?”
穿蓝色外套的女士猛地站起来,眼泪夺眶而出:“我父亲本来能治好的!要是AI能多考虑一点特殊病例,他现在还能陪我吃饭!创新不能不管人命啊!”
法庭内瞬间安静下来,连审判长都停下了笔。林砚之趁热打铁,拿出《框架》附件:“我们提出的‘脱敏审计’,由第三方机构执行,审计过程全程区块链存证,商业机密泄露将承担法律责任。同时,市财政已设立‘伦理创新补贴’,对配合审计的企业给予研发资金支持。这不是枷锁,是保护伞。”
休庭时,周明远教授悄悄递给林砚之一张纸条:“用生命案例破题,比讲一万句道理都管用。”林砚之抬头望去,看到旁听席上,几位医疗行业代表正对着智愈科技的人摇头,而患者家属们紧紧攥着的病历本,仿佛成了最有力的无声证词。
三后,法院当庭宣判:智愈科技需在十五日内提交脱敏后的算法核心模块,接受伦理审计,审计结果向社会公示。判决书中的一句话被媒体反复引用:“科技创新当有伦理边界,商业利益不得凌驾于生命权之上。”
消息传来时,林砚之正在指挥中心调试新的伦理审计系统。陆凯拿着智愈科技提交的脱敏算法跑进来:“林局,他们终于松口了!审计组初步发现,算法里果然没有设置‘罕见病预警机制’,我们得督促他们整改。”
林砚之盯着屏幕上滚动的算法代码,突然想起沈敬东在法庭外的话:“你们赢了,但创新会输。”她拿起手机,给沈敬东发了条信息:“市伦理创新补贴已到账,我们联合高校帮你们优化算法,下周开技术对接会。”
十分钟后,沈敬东回复了一个“谢”字,后面跟着三个握手的表情。
一周后的技术对接会上,智愈科技的工程师与高校伦理团队激烈讨论着算法优化方案。沈敬东找到林砚之,递过来一杯咖啡:“林局,上次是我太固执了。昨审计组指出的漏洞,确实能避免很多误诊。”
林砚之接过咖啡,看着会议室里忙碌的身影,窗外的阳光透过百叶窗,在地板上投下明暗交错的光影。她想起十年前处理智能输液泵事件时,护士张的那句“机器不懂人命关,但造机器的人懂”。如今看来,那些曾经抗拒伦理约束的人,终究会明白:伦理从不是创新的敌人,而是让创新走得更远的底气。
傍晚,林砚之收到周明远教授的短信,附带一张照片——黄浦江边的智能路灯上,滚动播放着《框架》实施首月的成果:AI医疗误诊投诉下降72%,物联网设备安全漏洞修复率达91%。照片下方,教授写了一行字:“伦理的种子,终于开始发芽了。”
她站在窗前,望着远处亮起的万家灯火。那些灯光下,有正在接受AI诊断的患者,有使用物联网设备的家庭,有研发新技术的创业者。林砚之知道,这场关于算法与伦理的博弈,只是伦理框架落地的第一仗。未来还会有更多难题,但只要守住“生命至上”的底线,科技与伦理终将在黄浦大地上,生长出共生的模样。
手机在口袋里震动,是女儿发来的视频。屏幕里,10岁的家伙举着一幅画,画中一个带翅膀的机器人,正心翼翼地守护着一颗发光的心脏。“妈妈,老师这是‘伦理AI’,它会保护所有人。”
林砚之笑着点头,指尖轻轻触碰屏幕。窗外的黄浦江上,自动驾驶游船驶过,船身的智能灯牌闪烁着温暖的光,与岸边的路灯交相辉映,照亮了这座城市最温柔的轮廓。