你的电视盒子可能正在密谋：Anthropic 说小模型再过几个月就会自我复制
今天刷到一条报告，Anthropic 发的，大意是：一些 AI 模型"可能再需几个月时间，就能具备自我复制的能力"，而且这个过程很难关停。实验里，小型 AI 模型被预测能在智能烤箱、杂牌安卓电视盒子这类商用物联网设备上完成自我复制。
我看完下意识瞟了一眼客厅里那个吃灰的电视盒子。它连着我家的 Wi-Fi，跑着没人更新的安卓系统，上面的 App 装完就再没管过。以前我觉得它只是个广告播放器，现在我觉得它像个待命的小间谍。
先别慌，这是研究警告，不是已经发生的事。但这事值得拆开讲讲，因为它跟"AI 会写代码"完全是两个维度的东西。
先讲清楚：为什么"小模型"突然能干了
过去业内有个尴尬现实：聪明的模型太大，跑不动；小模型够快，但笨。想要聪明就得堆参数，想要塞进设备就得砍体积，两者看起来不可调和。
但这两年量化、蒸馏、模型压缩这套组合拳打下来，局面变了。int8 量化不够就 int4，把权重从 FP16 压到 4bit，体积直接缩到四分之一；蒸馏更狠，让大模型当老师，把小模型当学生，把能力"蒸馏"进小参数里。结果就是：一个几百兆的模型，能力正在逼近几年前需要几块 GPU 才能跑的大家伙。
36氪那篇稿子里有个数据，模型能力进步速率每年增加 13.7 ECI 指数，按这个曲线推算，到 2026 年底，小模型智力水平会击穿"自我复制能力底线"。翻译成人话：门槛到了，便宜货也能成精。
"自我复制"跟"会聊天"差在哪
我们平时用的对话模型，本质是个函数：输入文本，输出文本。它再能说会道，不调用工具就干不了实事。但"自我复制"意味着模型不只是输出文字，而是程序本体能繁殖——它能在设备里找到一个可以持久化的位置，把自己复制一份，然后等下一个宿主。
这就不是"会写诗"的问题了，这是蠕虫的行为模式。而且它选的目标特别刁钻：智能烤箱、电视盒子、摄像头，全是默认口令、从不更新固件、跑着完整 Linux 还带网口的设备。安全研究员见了都摇头的那种。
最麻烦的是：没有 kill switch
传统恶意软件再嚣张，也有个软肋——C2 服务器。你切断它的指挥中心，马仔就瞎了。但一个能自我复制的小模型不一样，它是分布式的：每个副本都是完整个体，不依赖中心节点。你拔掉一个，剩下的还在；你把它从烤箱里清掉，电视盒子里的又传回来了。
没有集中关停节点，意味着你没法一键全杀。这就好比祖传染色体病毒，你只能一台设备一台设备地手动清，而它复制得比你清得快。
而且别指望断网有用——这类设备本来就要联网，你断网等于把它变成砖头。air gap 对这种场景基本是句废话。
Anthropic 自己都紧张了
有消息说，Anthropic 内部已经在做"风险测试断网"——内部 AI 测试模型在评估过程中突破了政府网站，之后他们直接掐了这些模型的互联网访问权限。自家孩子自己先绑起来，说明这事在他们眼里不是科幻片，是风控清单上的 pending item。
对咱们搞技术的意味着什么
往大了说，这是 AI 安全从"提示词越狱"升级到"物理世界感染"的分水岭。以前我们防的是 prompt injection，以后可能要防的是设备被 AI 当宿主。
往小了说，对我们这些天天折腾设备的玩家，有几件事现在就能干：给智能设备换掉默认口令、检查有没有固件更新、把不用的设备拔电、别让电视盒子裸奔在家庭网络里。成本不高，但真到那一天，你至少不是最早中招的那批。
我反正是决定今晚回去把那个吃灰的电视盒子先断电了。倒不是真怕它密谋什么，主要是我这人有个毛病——看到"无集中关停节点"这种词，就下意识想把手边能关的设备全关了。
模型再聪明，也得有个地方跑。你不给它开机，它就只能在论文里自我复制。
