我刚刚得知一件听起来像出自1984的事情，但实际上最近在英国一所学校发生了。字面意思，一台人工智能审查了奥威尔。

在曼彻斯特，一所中学决定使用人工智能来审查其图书馆。人工智能给出了一份193本书的下架名单，并附上了理由。你猜猜名单上哪本书：乔治·奥威尔的《1984》，因为它包含“折磨、暴力和性胁迫的主题”。讽刺的是，《1984》正是讲述一个控制一切、篡改历史、决定公民可以阅读什么的政府。而这里，竟然是一台人工智能在做同样的事。

学校的图书管理员觉得这荒谬，拒绝采纳建议。但管理层不同意。他们被指控引入不适当的书籍，并被举报给地方当局。压力大到他请病假，最终辞职。更糟的是：当局认定他确实违反了儿童安全程序。抗拒AI的人失去了工作，接受AI而不质疑的人则没有后果。

后来曝光，学校完全知道这些都是由AI生成的。在内部文件中写道，虽然类别由AI生成，“我们认为这种分类大致准确”。大致。一个机构将一项关键决策委托给自己都不理解的算法，而一名管理者在未审查的情况下批准了。

同一周，维基百科发生了完全不同的事情。当一所学校让AI决定学生能读什么时，全球最大的在线百科全书做出了相反的决定：禁止AI撰写或重写内容。投票结果是44票赞成，2票反对。原因是一台名为TomWikiAssist的AI账号一直在自动创建条目。

问题在于数学：AI可以在几秒钟内写出一篇文章，但志愿者需要数小时验证事实、来源和写作。维基百科没有足够的编辑者来审查AI可能产生的所有内容。但更深层次的问题是：维基百科是训练AI模型的主要数据源之一。AI从维基百科学习，然后为维基百科写新条目，而这些新条目又用来训练下一代AI。如果AI污染了这些数据，就会形成一个循环：污染被放大。数据毒害AI，AI又毒害数据。

同一周，OpenAI也开始收手。无限期取消了ChatGPT的“成人模式”，这是Sam Altman几个月前亲自宣布的功能。内部健康委员会一致投票反对。担忧很明确：用户会与AI产生不健康的情感依赖，未成年人会找到规避年龄验证的方法。有更直白的说法：没有改进，这可能变成“性感自杀教练”。年龄验证系统的误差超过10%。以每周8亿活跃用户计算，意味着数千万用户被误判。

不仅如此，他们还撤下了带有AI的视频工具Sora，以及ChatGPT的即时支付功能。Altman说，他们专注于核心业务，删除“次要任务”。但OpenAI正准备上市。一家努力上市、同时大规模删除争议功能的公司，可能并不完全诚实。

你看，五个月前，Altman还说要把用户当成人对待。五个月后，他发现连自己公司都不知道AI能做什么、不能做什么。甚至那些开发AI的人也没有答案。

结合这三个事件，问题变得显而易见：AI生成内容的速度，已经远远超过人类审查的速度。那位曼彻斯特的负责人不信任AI；他只是不想花时间让图书管理员阅读193本书。这是个经济问题。生成成本几乎为零，所有的审查成本都由人类承担。

因此，各机构反应都非常激烈：维基百科直接禁止，OpenAI关闭部分产品线。这些都不是深思熟虑的解决方案，而是应急措施，用来堵漏洞。而且，这种情况正在变得常态化。

AI每隔几个月就会更新一次。没有一个统一的国际框架规定什么可以触及。每个机构都设定自己的内部界限，而且彼此矛盾，缺乏协调。与此同时，差距只在扩大。AI的速度在加快，审查人员没有增加。总有一天，这将爆发成比审查奥威尔更严重的问题。而当那一天到来时，可能已经太晚了，无法划定界限。