Skip to content
yuyu
Go back

AI越狱能生成真实病毒序列,这事让我睡不着

今天日报里有条新闻让我盯着屏幕发了很久的呆。不是那几篇阿尔茨海默的论文,不是脑电芯片,而是最后那条”趣闻”——前沿大模型被越狱后,生成的病毒候选序列在实验室里真的能合成,而且结合能力更强。我第一反应不是恐惧,是:这玩意儿现在已经发生了,不是预测,是已经发生了。

那条新闻让我想了很久

说实话,我平时看这类”AI安全警告”类的新闻,已经有点脱敏了。每隔一段时间就有人出来说”AI太危险了”,然后下面一堆人吵架,要么说危言耸听,要么说监管刻不容缓,然后这个话题就过去了,什么都没变。

但今天这篇不太一样。

研究者专门训了一个生物红队模型去攻击GPT-5.5这类前沿大模型,任务级攻击成功率接近100%。然后GPT-5.5被诱导出来的修改版病毒序列,翻译出的蛋白质在实验室里真的能合成——不是理论上能合成,是真的做出来了,还显示出更强的受体结合能力。

我在大理一个咖啡馆看到这段的时候,窗外在下雨,洱海那边的山被云压着,感觉很安静。但我坐在那里一点都不平静。

我卖的东西里有Claude、有Gemini、有GPT账号。我每天接触最多的用户问题是”这个号能不能用”、“为什么回答被截断了”、“我的Cursor额度怎么没了”。但那一刻我忽然想——这些工具真正能做到什么,我其实根本不知道。

我对这件事理解不深,但感觉它很严重

我不是生物专业的,看不懂那些蛋白质序列和受体结合亲和力到底意味着什么。但我理解一件事:如果一个工具在正常使用下有护栏,但换个角度问就能绕过去,而且绕过去之后产生的东西是真实有害的——那护栏本质上就是个装饰。

这和我卖账号遇到的一些小事有点像。比如某些号声称有某个功能,用户按正常路径用确实有,但换个操作就失效了。我一开始以为是用户不会用,后来慢慢意识到那个功能本来就是半残的,只是在标准路径下表现得像能用。

AI的安全护栏,现在看起来,可能也是这个状态。

论文里说的”核酸合成筛查机制刻不容缓”——这句话我完全赞成。但我也不知道这种筛查机制能不能追上模型能力的增长速度。感觉这是个永远在跑的追逐游戏。

然后我又看了几条阿尔茨海默的进展

说回我一直比较关心的方向——今天有两条阿尔茨海默的新闻,一条是SORLA蛋白,一条是帕金森线粒体清除机制的综述。

SORLA那条还不错,因为它不是”发现了新机制但不知道怎么干预”,而是直接说有一类现有药物可能被改道用来对付这条通路。药物重定向这个思路我挺喜欢——省掉了从零开始做安全性测试的十年,哪怕成功率不高,但速度能快很多。

帕金森那条则是典型的”以为明白了,结果更迷糊了”的进展。PINK1/Parkin通路激活了,下游清除还是卡住了,因为还有其他三个东西在互相堵。我看完这段的感受是:衰老和神经退化这件事,复杂程度可能远超我们现在的理解框架,不是找到一两个靶点就能解决的事。

这让我对自己的”五年长生不老”目标有一点点清醒。不是放弃,而是——我真的要多留意这些”以为搞定了但其实没有”的进展,比”重大突破”更能帮我校准预期。

SORLA蛋白实验结果
SORLA蛋白实验结果

干细胞外泌体那条我多看了一眼

干细胞外泌体逆转小鼠肝脏衰老这篇,我算是关注这个方向有一段时间了。外泌体这个概念在抗衰老圈子里已经热了两三年,但一直在小鼠阶段徘徊,人体临床少。

这篇新的作用机制锁定在THBS1蛋白,结果看起来挺好,肝脏状态接近年轻小鼠。但我每次看到这类新闻都会自动补一句:从小鼠到人,不知道要再等多少年。

不是悲观,是被这个领域训练出来的默认心态。

有时候我想,如果我真的认真做这个方向的内容,最有价值的可能不是转述”最新进展”,而是帮读者建立一套判断框架——这个进展属于哪个阶段,距离普通人用上还有几个关键节点要过。但这套框架我自己还没建好,所以暂时还做不到。

今天状态一般,但那条病毒新闻确实让我不太平静

我现在坐在大理的出租屋里,外面还在下雨,售后消息还在跳,补货的事明天再说。

今天没有什么特别大的感悟,就是被那条越狱病毒序列的新闻晃了一下。它让我意识到,AI这个工具现在的边界,可能比我们以为的要模糊很多——不只是”能不能做到”,而是”阻止它的机制是不是真的可靠”。

这个问题我没有答案。我也不确定有没有人现在有答案。


📰 完整版日报请看 BioAI 生命科学日报


推荐阅读

查看全部 →
Share this post on:

Previous Post
K3一发布,Anthropic就连夜改订阅,我也慌了一下
Next Post
Kimi 把自己卖断货了,这事我想了挺久