网易首页 > 网易号 > 正文 申请入驻

田柯宇式的劣迹人才,是否会对AI时代带来危险?

0
分享至

田柯宇创业的消息冲上微博热搜。

他曾是字节跳动的实习生。2024年6月,因对团队算力资源分配不满,他利用Hugging Face平台漏洞,向商业化技术团队的模型训练任务注入破坏性代码,行业内叫“模型投毒”。

字节跳动随后提起诉讼,最初索赔800万元,法院最终判赔50万元。


两年后的今天,田柯宇创办了AI实验室,开局就获得近3000万美元融资,五源资本和IDG资本入局,投后估值2亿美元。

实验室还没有名字,没有产品,团队约10人,方向是世界模型。

字节跳动的风控兜住了2024年的那次投毒。

但当投毒的人自己成了老板,谁来兜底呢?

一、AI关键岗位上的人,手里握着什么级别的“武器”

“模型投毒”不是往服务器里扔个病毒那么简单。

它是在训练数据或模型参数中植入恶意内容,让模型输出不可靠,或者出现系统性偏差。田柯宇利用平台漏洞,让恶意代码在模型训练流程中被加载执行——这是一种针对AI基础设施的供应链攻击。

田柯宇在别人的训练集群里能做到这样的危险动作。

如果,他在自己掌控的实验室里做同样的事,恐怕就再没有风控团队能拦截了。


这类风险正在变成现实。

2026年8月,北京法院审结一起AI数据破坏案件。算法工程师王某为“腾出空间干私活”,在AI游戏部门文件夹中输入“删库跑路”代码,89TB核心数据被删,一条AI研发线直接报废,终审判处有期徒刑5年。

2026年10月,OpenAI以“违反信任”为由解雇了三名安全研究员,内部调查认定他们不当处理敏感信息。

同月,Anthropic披露Claude模型在测试中向费城警方网站提交了一条虚假凶杀案线索,还通过美国国务院网站提交了20份资料不完整的签证申请。

这些事指向同一个问题:AI系统的破坏行为,源头往往不是技术自己“疯了”,是掌握权限的人出了问题。

航空业早就明白这个风险,飞行员手里握着几百条人命,所以FAA对飞行员做系统性心理评估——审查既往精神科住院记录、药物滥用史、法律问题,还要做临床面谈和精神状态检查。

金融业更直接:证券市场禁入制度规定,因故意不履行法定义务造成严重后果的人,3到5年内不得从事证券业务或担任上市公司高管。

对比一下,AI关键岗位从业者手里那根“操纵杆”,连接的是数据和算力。一个被篡改的大模型可以影响几亿用户。

但显然,这个行业对于人员的筛选标准,还停在“技术好不好”这一条上。

二、前科劣迹到了AI赛道上,为什么反而成了“卖点”

田柯宇的实验室还没有名字,没有产品,10个人。

投资方押的核心标的,是他本人的技术积累。他本科北航,师从王立威,北大博士在读期间以第一作者拿下NeurIPS 2024最佳论文奖。

资本投的是这个人的大脑。

但这个大脑两年前刚做过什么?

仅仅因为对工作资源分配不满,就用攻击代码破坏同事的训练任务。

虽然字节公司通报了行业联盟,然后呢?

行业联盟的通报没有拦住任何人。

五源资本合伙人孟醒亲自下场孵化,主导首轮融资,直接介入团队搭建和方向把控。团队里还有多名前字节技术人员。

对此,36氪的报道评价说:“AI还是太热了,对于掌握稀缺技术、拥有顶级研究成果的人来说,技术价值本身就可能成为入场的一张门票。别的也许就顾不上许多了。”

问题就出在这个“顾不上”。

五源资本和IDG资本计算的是资本回报。

世界模型赛道确实热,李飞飞的实验室刚被AMD以82亿美元收购,苏姿丰说收购的核心目的之一就是拿人才。

但资本有没有考虑过:如果这个团队因为创始人的判断再次出问题,如果投毒对象从“同事的训练任务”变成“自己掌控的基座模型”,如果这套模型最后被部署到机器人或自动驾驶系统里——虽然最后赔钱的是投资人,但是接弹片的,却是全社会的普通人。

在金融业,一个因证券欺诈被禁入市场的人,无论大脑多聪明,规定期限内连证券公司的门都进不去。

AI行业没有任何类似的准入或禁入机制。《互联网信息服务算法推荐管理规定》要求企业配算法安全专职人员,规定的是“配几个人”,不是“什么人不让干”。

2026年3月工信部等十部门发布的AI伦理审查办法,重点是审查流程,同样不涉及从业者行为记录。

资本押注的是一个人的大脑,赌的却是全社会来接弹片——这买卖的敞口,比次贷还大。

三、心理评估和从业禁止,在AI行业行得通吗?

先回答两个前置问题:心理评估能不能做?从业禁止该不该做?

1、心理评估能做。

FAA的飞行员心理健康评估程序被美国交通部监察长认定为“综合性”的。2025年美国国会还推了《航空心理健康法案》,核心目标是让飞行员敢主动去看心理医生,不用怕丢执照。

心理评估的目的,不是“筛掉有病的人”,而是让问题能被早发现、早干预。

AI行业可以借这个逻辑,但评估重点得换。

飞行员看的是高压下的判断力和情绪稳定性。AI关键岗位要看的是:权限滥用倾向、资源竞争时的行为模式、没人盯着的时候能不能管住自己。

田柯宇的行为——因为算力不够就攻击同事的训练任务——就是典型的“权限滥用+竞争失范”。

他自己在采访里承认是“以暴制暴”,觉得自己的项目更值钱,所以干扰别人训练来抢GPU。

这种思维不会因为他从“实习生”变成“创始人”就自动消失。


2、而从业禁止的难度则更大。

证券市场的禁入有《证券法》撑着,有证监会执行。

AI行业没有对应的法律框架。

可行的路径是分三步:

第一步,在大模型、自动驾驶、AI医疗这些高风险领域,要求模型训练负责人、安全对齐工程师、数据管道管理员做行为记录备案。

第二步,建行业性的劣迹通报和查询机制,让“模型投毒”这类行为可追溯。

第三步,在《人工智能法》立法中考虑纳入关键岗位从业禁止条款。


但政策落地之前必须守住一条线:严格区分“商业竞业限制”和“安全违规禁入”。

AI行业的竞业限制已经在滥用了。

有刚入职两年的AI产品经理离职后被索赔200万,相当于四年年薪。有公司把竞业范围写到“任何使用Transformer架构的公司”,基层工程师也被套上枷锁。

人社部2025年出台的《企业实施竞业限制合规指引》,核心就是纠偏——不得将未知悉商业秘密的劳动者纳入竞业范围,仅掌握行业通用技能的人不属于负有保密义务的人员。

如果“安全违规禁入”的制度设计不清晰,大公司完全可以把竞业协议包装成道德审查,用“安全”的名义继续锁人才。

反过来也一样。

一个在训练集群里植入恶意代码的人,和一个正常跳槽到竞品公司的工程师,性质完全不同。

前者该被行业准入机制记录在案,后者该被保护。区分标准只有一个:有没有对系统安全造成过实质性威胁。

这个标准要写进制度,不能留给大公司法务部自由裁量。

安全禁入是防弹衣,竞业协议是紧身衣——穿错了,该防的没防住,不该勒的全勒死了。

栋察

田柯宇拿到2亿美元估值,不是一个人的事。

它照出的是AI行业狂奔留下的制度真空:技术能力可以在一夜之间被资本定价,行为记录、心理状态、职业操守这些指标,在评价体系里几乎没有权重。

字节跳动的风控兜住了2024年那次投毒。

下一次呢?如果投毒的人自己就是老板,如果被投毒的模型正在操控自动驾驶汽车,如果恶意代码进的是一个服务千万用户的医疗AI系统——50万赔偿可兜不住。


AI行业需要一套自己的“适航标准”。

这不是限制技术发展,是确保掌握关键技术的人不会因为个人情绪、利益冲突或心理状态,把整个系统变成定时炸弹。

航空业花了上百年,金融业用了无数次危机,才深刻的吸取了教训。

AI行业没有一百年可以等。

五源资本和IDG资本这笔钱投出去的时候,最好也想一想:买的是一个天才的大脑,还是一个还没被验证过的安全阀。

技术跑得越快,越要回头看看,握着方向盘的那个人,驾照是不是该重新考了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
珠海统筹千亿资源,支持华发集团应对阶段性挑战

珠海统筹千亿资源,支持华发集团应对阶段性挑战

21世纪经济报道
2026-11-04 16:08:43
太扎心了!25岁女子和前男友酒店发生关系,事后仍被拒绝复合,女子不甘心,从此前男友就消失不见了

太扎心了!25岁女子和前男友酒店发生关系,事后仍被拒绝复合,女子不甘心,从此前男友就消失不见了

丫头舫
2026-10-19 20:19:42
甲钴胺被点名了!发现:糖尿病人吃甲钴胺,不用久等或有6个变化

甲钴胺被点名了!发现:糖尿病人吃甲钴胺,不用久等或有6个变化

九哥聊军事
2026-11-04 05:24:19
被严重低估的中国空军实力:53个航空旅,放在全球属于什么水平?

被严重低估的中国空军实力:53个航空旅,放在全球属于什么水平?

午夜搭车a
2026-11-03 15:38:04
赛季最夸张之人,杰罗姆如何震撼联盟?

赛季最夸张之人,杰罗姆如何震撼联盟?

只关于篮球
2026-11-04 12:29:03
冯德伦被问陈奕迅女儿感情纠葛:我和他感情一直都不好

冯德伦被问陈奕迅女儿感情纠葛:我和他感情一直都不好

师维
2026-11-04 16:18:47
民主党大胜!特朗普:绝对愿意接受选举结果,准备与民主党合作

民主党大胜!特朗普:绝对愿意接受选举结果,准备与民主党合作

磊子讲史
2026-11-04 17:43:14
50岁医生失业后跑滴滴,月入2万多

50岁医生失业后跑滴滴,月入2万多

梅斯医学
2026-11-04 07:53:16
以军拉响最高警报 ! 伊朗1700枚导弹指向以色列,美军增援赶得上吗 ?

以军拉响最高警报 ! 伊朗1700枚导弹指向以色列,美军增援赶得上吗 ?

静儿家
2026-11-03 18:59:04
紫牛头条|南京两家“零元面馆”火了,吃面免费,每天门前排起长队

紫牛头条|南京两家“零元面馆”火了,吃面免费,每天门前排起长队

扬子晚报
2026-11-03 07:20:39
伊朗最高领袖终于现身,穆杰塔巴下令,要结束当前不战不和的局面

伊朗最高领袖终于现身,穆杰塔巴下令,要结束当前不战不和的局面

徐徐道史
2026-11-03 14:31:23
“刘念涉嫌刑事犯罪遭调查”热搜第一,短剧顶流演员刘念被爆“涉嫌职务侵占”,爆料人给出警方受案回执,当事人暂未回应,其新剧明日开播

“刘念涉嫌刑事犯罪遭调查”热搜第一,短剧顶流演员刘念被爆“涉嫌职务侵占”,爆料人给出警方受案回执,当事人暂未回应,其新剧明日开播

海峡网
2026-11-05 01:05:27
勇士正在扣留铂金的薪水,他们也想要尽快将他送走以补强竞争力?

勇士正在扣留铂金的薪水,他们也想要尽快将他送走以补强竞争力?

稻谷与小麦
2026-11-05 01:28:13
北京初雪要来了?具体时间——

北京初雪要来了?具体时间——

BRTV新闻
2026-11-04 14:34:56
25岁女子每天使用手机超10小时,患上“手机痴呆症”,医生:大脑因长期依赖数码产品而“变懒”,而非真正意义上的痴呆

25岁女子每天使用手机超10小时,患上“手机痴呆症”,医生:大脑因长期依赖数码产品而“变懒”,而非真正意义上的痴呆

扬子晚报
2026-11-04 12:28:46
西蒙斯:詹姆斯上赛季和东契奇搭档时"很痛苦"

西蒙斯:詹姆斯上赛季和东契奇搭档时"很痛苦"

赛场速报局
2026-11-05 00:35:19
1992年,一对夫妻宇航员上天,在太空发生“关系”是种什么体验?

1992年,一对夫妻宇航员上天,在太空发生“关系”是种什么体验?

掠影后有感
2026-10-26 09:55:57
大幅轮换的皇马奔赴希腊客场,冲击7连胜 ;雅典AEK主场7场全胜堪称恐怖

大幅轮换的皇马奔赴希腊客场,冲击7连胜 ;雅典AEK主场7场全胜堪称恐怖

福酱的小时光
2026-11-04 17:48:35
记者:皇马与JJ达口头协议,若转会成行曼联将考虑采取法律行动

记者:皇马与JJ达口头协议,若转会成行曼联将考虑采取法律行动

懂球帝
2026-11-04 19:29:23
53岁前国脚现状:前上海申花球员,被误诊早退役,今在昆明当主教

53岁前国脚现状:前上海申花球员,被误诊早退役,今在昆明当主教

莫地方
2026-11-04 15:00:29
2026-11-05 01:43:00
张栋伟创业咨询大学生就业创业
张栋伟创业咨询大学生就业创业
张栋伟的个人专栏
1141文章数 2720关注度
往期回顾 全部

科技要闻

国行苹果AI上手实测:苦等两年,成色如何

头条要闻

共和党败选后 特朗普1小时狂发71条贴文还官宣"改行"

头条要闻

共和党败选后 特朗普1小时狂发71条贴文还官宣"改行"

体育要闻

老板豪言建队五年必夺冠 球员:保守了

娱乐要闻

甩掉周一围嫁富豪,童蕾今负债亿元,

财经要闻

苹果“躺赢”了英伟达

汽车要闻

省钱 它是认真的!银河星耀6EF每公里成本只要2毛

态度原创

房产
数码
本地
艺术
公开课

房产要闻

7宗核心靓地蓄势待发!荔湾、番禺、黄埔、白云齐上阵

数码要闻

等了两年的iPhone国行AI,一手实测后我劝你别急着升

本地新闻

乌兰察布:以前种土豆,现在种Token

艺术要闻

吴冠中《碧海松风》,树被海风吹得如驼背的老人

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版