网易首页 > 网易号 > 正文 申请入驻

全球AI公司,疯狂抢购旧书

0
分享至

数据中间商ISBNdb最近很忙,忙着接AI公司的大单。

这家公司原本服务图书馆和书商,手握超过1.11亿本图书的目录信息,现在业务重心已经悄悄转向AI行业,把旧书批发给各家AI公司。


这些AI公司买家拿到书之后,用液压切割机把书脊切掉,散开的纸页送进高速扫描仪,变成清晰的PDF文件,扫完之后纸质原件直接送去销毁。书本的内容用于模型训练。


有意思的是,2022年之前出版的旧书更抢手,价格也开得更高。这背后的逻辑,我们下边会聊。

这种操作,也不是第一次被曝出来。Anthropic在这方面算是老手了,公司内部代号“巴拿马计划”的项目,就累计处理过两百万册实体书。

01 互联网已经被AI污染

行业机构的最新统计显示,2025年之后,互联网上新产生的内容里,AI生成的比例已经超过一半,而2022年ChatGPT刚发布的时候,这个比例几乎是零。短短几年时间,互联网的内容生态已经发生了根本性的变化。


流量方面,有安全服务商监测到,全球网站访问请求里,来自AI或者各类爬虫的占比已经超过一半,人类真正手动访问的请求反倒成了少数。换句话说,现在的互联网,更多时候是AI在跟AI说话,人类成了旁观者。

需要说的是,AI生成内容本身没什么问题,恰恰相反,AI正在帮许多专业人士把创作效率和质量,进行大幅提升。

问题出在模型训练,这些AI生成的内容一旦用来训练下一代AI模型,就会导致模型质量大幅下降。

02 模型训练的“吞尾效应”

业内把这个现象叫做“模型塌缩”,说的是当AI模型反复用AI生成的内容来训练自己,输出质量就会断崖式下降。


原理不复杂,人类写东西的时候,会有各种意外的表达、独特的用词、真实世界里发生过的具体细节,这些东西信息量很大。AI生成的内容往往是对已有模式的重新组合,本身就带着一层信息损耗。让AI去学习AI生成的东西,相当于复印机反复复印同一张纸,复印的次数越多,画面越模糊,细节越丢失。

这也解释了2022年以前出版的旧书为什么值钱。因为,2022年之前出版的书,内容100%是人类手写的,没有被污染过。2022年之后出版的书就不一样了,AI辅助写作甚至AI代笔的比例不断攀升。

那现在AI能用的高质量人类语料,到底还剩多少?有测算机构给出的预估是,按照目前的消耗速度,语言模型会在2026到2032年之间,把网络上能公开获取的高质量人类文本资源基本耗尽。留给AI行业的时间窗口,其实已经已经不多了。

而且,目前学界和产业界都没找到真正有效的替代方案。

03 旧书争夺战,不断升级

回到开头说的ISBNdb。这家公司现在提供的采购套餐从一千本到一百万本都有,明码标价,走批发路线。每一笔交易都会签保密协议,买家名字永远不会被公开,这也是为什么外界一直搞不清到底哪些AI公司在买书。

被大量买走的书,大多是那种商业价值几乎为零、但文献价值很高的冷门书,地方志、小城镇史料、已经消亡学科的老专著、小语种或者土著语言的文献、自费出版的战争回忆录、印量极小的学术论文集。正因为够冷门够绝版,这类书才更容易被大批量收购、大批量销毁,市面上再也找不到第二份。


Anthropic的巴拿马计划,负责操盘的是汤姆·特维,一个在Google Books项目里就干过同样事情的硅谷老兵。根据他的描述,整套流程走的是标准化产线:工人用液压切割机切掉书脊,散页送进生产级高速扫描仪转成PDF,扫完的纸质残骸直接打包送去回收公司处理。

为什么非要销毁纸书?答案有点反常识。2025年联邦法院对这类案件做出了判定,如果书是合法购买来的,哪怕后续拆书扫描再销毁,训练行为本身也算合理使用,因为AI训练被认定为具有变革性。也就是说,只要买书环节干净合法,法院大概率不会拦着你拆书扫描。

但是,如果你下载盗版书,情况就不一样了。Anthropic联合创始人本·曼恩,早在2021年就从盗版网站LibGen下载了至少500万本盗版电子书,2022年又从另一个盗版渠道下载了至少200万本,都是拿来训练模型用的。后来,法院判Anthropic赔偿1.5亿美元,这个天价罚金创下这个领域的赔付纪录。

不得不说,有时候老美的思路还是很清奇的。

04 AI或将再次进入漫长“停滞期”

回头看AI领域这几十年的发展,其实经历过好几段漫长的停滞期。支撑模型训练的三大要素是:算法、算力、数据。

算法这条线上,深度学习没突破之前,进展十分缓慢,直到Transformer架构被提出来,才算真正解决了算法问题。

算力方面,“摩尔定律”支撑了芯片性能的快速发展,云计算解决了大规模集群调度的问题,算力这个瓶颈也彻底解决了。

数据方面,随着互联网和移动互联网的爆发式增长,海量的高质量文本给了模型足够的训练数据。

这才有了2022年末,这轮AI技术浪潮的彻底爆发。

但是,随着人类高质量文本被消耗完毕,数据又成了卡脖子的要素,这一轮AI浪潮也将结束,AI领域很可能又会陷入另一段“停滞期”。

学界目前也在尝试新的方法,比如合成数据生成、多模态数据补充等等,但说到底,这些手段只是在延缓模型塌缩发生的速度,并没有从根本上解决这个问题。

旧书争夺战看似是行业趣闻,深究下去,却是整个人类文明积累的知识财富,正被以近乎掠夺的方式重新提炼、榨干。这早已不是几家AI公司争抢训练语料的商业博弈,而是一道关乎人类文明如何与AI共生共存的时代命题。

来源 | 技术领导力(ID:jishulingdaoli)

作者 | Mr.K ; 编辑 | 虾饺

内容仅代表作者独立观点,不代表早读课立场


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
炸裂新瓜!景甜的噩梦才刚开始!

炸裂新瓜!景甜的噩梦才刚开始!

财经要参
2026-08-30 12:00:05
中国篮协再下重磅罚单,两名主帅被禁赛一年,假球打的太明显了!

中国篮协再下重磅罚单,两名主帅被禁赛一年,假球打的太明显了!

一网打尽全球焦点
2026-09-18 01:44:03
致1死1伤!惠州一公司发生灼烫事故被挂牌督办

致1死1伤!惠州一公司发生灼烫事故被挂牌督办

南方都市报
2026-09-18 13:44:13
重磅!北大要过紧日子,网友一句评论亮了……

重磅!北大要过紧日子,网友一句评论亮了……

慧翔百科
2026-09-17 16:45:37
谢贤前女友Coco直播被说丑,本人回应:“姐都40岁了,把头发往下一放还是迷倒一大片的”

谢贤前女友Coco直播被说丑,本人回应:“姐都40岁了,把头发往下一放还是迷倒一大片的”

韩小娱
2026-09-04 05:54:22
微笑唇,杨洋,老好人,lucy,陈晓,仅退款,鞠婧祎,田亮,许晴,福西西,陈都灵,蒋奇明,井柏然,荣梓杉,赖雨濛,汪苏泷

微笑唇,杨洋,老好人,lucy,陈晓,仅退款,鞠婧祎,田亮,许晴,福西西,陈都灵,蒋奇明,井柏然,荣梓杉,赖雨濛,汪苏泷

手工制作阿歼
2026-09-18 04:42:19
联想集团股价创历史新高,CFO郑孝明称完全被市场低估

联想集团股价创历史新高,CFO郑孝明称完全被市场低估

IT之家
2026-09-18 13:42:11
曝一位95后男星被送来送去,成为男大佬的共享金丝雀,女星当中介

曝一位95后男星被送来送去,成为男大佬的共享金丝雀,女星当中介

荒野老五
2026-09-16 22:42:33
养肌肉就是养命!年纪大了要多吃这6样,腿脚有劲精神好

养肌肉就是养命!年纪大了要多吃这6样,腿脚有劲精神好

刘哥谈体育
2026-08-27 01:09:23
长期不开的油车,最毁车的不是停着不动,而是你忘了这几件事

长期不开的油车,最毁车的不是停着不动,而是你忘了这几件事

趣味萌宠的日常
2026-09-12 04:14:16
丘吉尔:日本如果不是被原子弹炸过,日本这个国家可能就没有了

丘吉尔:日本如果不是被原子弹炸过,日本这个国家可能就没有了

纪史行者
2026-09-18 07:50:10
放弃遍地开花、全力托举南宁:广西这场豪赌,到底赢了还是输了?

放弃遍地开花、全力托举南宁:广西这场豪赌,到底赢了还是输了?

阿莱美食汇
2026-09-18 09:01:12
深夜,歹徒闯入家中对她施暴近两个小时,她咬紧牙关一声不吭,只为保护楼上熟睡的女儿。当警察破门而入时,才发现这位母亲早已浑身是血

深夜,歹徒闯入家中对她施暴近两个小时,她咬紧牙关一声不吭,只为保护楼上熟睡的女儿。当警察破门而入时,才发现这位母亲早已浑身是血

人生录
2026-07-30 00:05:11
如果说整容有鼻祖,那成龙大哥算一位吧?

如果说整容有鼻祖,那成龙大哥算一位吧?

木子爱娱乐大号
2026-09-18 15:35:19
不少日本媒体和学者警告,高市早苗政府的安全政策明显呈现“回归战前”的危险倾向,中方:包括中国在内的地区各国必须保持高度警惕

不少日本媒体和学者警告,高市早苗政府的安全政策明显呈现“回归战前”的危险倾向,中方:包括中国在内的地区各国必须保持高度警惕

政知新媒体
2026-09-18 15:32:13
老话说 “人怕穷,房怕空”!空置很久的房子,千万别拎包直接入住

老话说 “人怕穷,房怕空”!空置很久的房子,千万别拎包直接入住

菊长秘书
2026-08-31 09:22:00
如果你有退休金,请接纳一条建议:儿女给的钱,送的衣服、鞋子、食物等,都大大方方收下

如果你有退休金,请接纳一条建议:儿女给的钱,送的衣服、鞋子、食物等,都大大方方收下

三农老历
2026-08-20 13:29:13
张继科否认高学费:我这肯定不免费 但学费跟成绩挂钩 最低每月980

张继科否认高学费:我这肯定不免费 但学费跟成绩挂钩 最低每月980

风过乡
2026-09-18 09:57:38
菲律宾一公务船挑衅滋事、故意冲撞中方海警船,外交部回应

菲律宾一公务船挑衅滋事、故意冲撞中方海警船,外交部回应

新京报
2026-09-18 15:39:12
70岁谢玲玲晒巨型衣帽间,千件衣服全套防尘袋,常年瑜伽体态出众

70岁谢玲玲晒巨型衣帽间,千件衣服全套防尘袋,常年瑜伽体态出众

草莓解说体育
2026-09-18 12:23:02
2026-09-18 16:28:49
互联网早读课 incentive-icons
互联网早读课
专注互联网产品、运营、交互
9879文章数 55228关注度
往期回顾 全部

科技要闻

苹果店外黄牛蹲守:18 Pro Max加价500

头条要闻

"甲醛白菜"爆料博主再曝"硫磺熏笋" 现场气味异常刺鼻

头条要闻

"甲醛白菜"爆料博主再曝"硫磺熏笋" 现场气味异常刺鼻

体育要闻

一个角色球员,靠什么在NBA征战17年

娱乐要闻

敬一丹逝世 央视送别,女儿成“心病”

财经要闻

中国汽车:尾大不掉,必须出清

汽车要闻

纯电/插混双动力+五座/六座双布局 海狮08应该怎么选?

态度原创

艺术
游戏
教育
手机
军事航空

艺术要闻

成都第一高楼“砍高度”刷屏,官方:还是489米!

《生化危机》新电影改编引争议!导演澄清创作立场

教育要闻

日常英语:去剪发发现与自己要求不符

手机要闻

W37排名:小米成国产安卓第一,vivo与OPPO持平

军事要闻

中方反对在安理会强推恢复对伊朗制裁

无障碍浏览 进入关怀版