人类认知能力,已成为软件工程的瓶颈
这应该是2026年3月最炸裂的科技新闻。
在很多算子开发者的微信群里,已经掀起了轩然大波。
“这或许是超人类智能在软件领域的真正首次展露。”英伟达研究员许冰刚刚在X上发出了如此断言。他所评论的,正是他与Terry Chen和Zhifan Ye为共同一作的一项英伟达新研究——AVO。
在这项刚刚提交到arXiv上的研究中,英伟达构建了Agentic Variation Operator(AVO),一类新型进化变异算子。它用自主编码智能体取代了经典进化搜索中固定的变异、交叉和人工设计的启发式方法,并取得了相当震撼的实际表现。
1、7天自主进化,超越人类专家
许冰表示:“在一些经过高度优化的注意力机制工作负载中,智能体在没有人工干预的情况下,即可在优化循环中连续搜索7天,从而超越几乎所有人类GPU专家。”——AVO的如此表现,可能会让许多内核和DSL开发者感到不安。
研究团队将AVO部署在一项极具挑战性的任务上:在NVIDIA Blackwell B200 GPU上优化多头注意力(Multi-head Attention,MHA)核心代码。注意力机制是Transformer架构的核心,也是AI芯片上被优化得最密集的计算目标之一。
在完全没有人类干预的情况下,AVO智能体连续自主运行了7天。
在这7天里,智能体在后台探索了超过500个优化方向,并最终提交了40个有效迭代版本。最终,它生成的MHA核心在BF16精度下实现了高达1668 TFLOPS的吞吐量。
在基准测试中,AVO交出的答卷令人惊叹:
● 相比英伟达官方为Blackwell定制的闭源cuDNN库,吞吐量提升了最高3.5%
● 相比目前最前沿的开源基准FlashAttention-4,吞吐量提升了最高10.5%
2 、强大的泛化能力:30分钟迁移至新任务
更令人印象深刻的是,这些由智能体发现的底层微架构优化,并非只针对特定场景的过度拟合。
当研究人员要求AVO将优化好的MHA核心适配到如今大模型常用的分组查询注意力(Grouped-query Attention,简称GQA)时,智能体仅用了约30分钟的自主调整就完成了任务。
在GQA的测试中,AVO依然保持了绝对领先优势:
● 性能比cuDNN高出最高7.0%
● 比FlashAttention-4高出最高9.3%
这表明,智能体在MHA进化过程中发现的计算和内存访问优化模式,能够有效泛化到具有不同计算特征的GQA任务中。
3 、深入底层的微架构推理
分析AVO提交的代码变更可以看出,AI智能体并非在做表面功夫,而是进行了真正深入硬件底层的逻辑推理:
无分支累加器重缩放:通过消除条件分支,智能体排除了warp同步的开销,并替换了更轻量级的内存屏障,使得非因果注意力的吞吐量一次性提升了8.1%。
纠错与张量核心(MMA)流水线重叠:智能体重新组织了执行流水线,将原本顺序执行的依赖关系转化为交叠的流水线执行,大幅减少了硬件的空闲等待时间。
跨warp组的寄存器重新平衡:智能体通过分析性能分析器的数据,发现某些运算组因为寄存器不足而导致数据溢出至慢速本地内存。它果断对Blackwell的2048个寄存器预算进行了重新分配,进一步压榨出2.1%的性能提升。
英伟达的这项研究证明,AI智能体已经具备了处理多硬件子系统(如同步、内存排序、流水线调度和寄存器分配)联合推理的能力。
在传统基于LLM的进化搜索框架中,模型往往被
4、 “盲编程”:从被动生成器到进化操盘手
困在固定的流水线里,仅仅充当候选代码的生成器。每次调用只能输出一次结果,无法主动查阅参考资料、测试代码、理解反馈或在最终提交前修正策略。
对于需要深度、反复迭代的顶级硬件优化任务来说,这种限制尤为致命。
AVO打破了这一局限,将“变异算子”实例化为一个自我驱动的智能体循环。这个AI智能体可以自由查阅之前的代码版本记录、调用领域专属的知识库(如CUDA编程指南和PTX架构文档),并根据执行反馈来主动提出、修复、批判和验证代码修改。
简而言之,AVO将AI从被动的“代码生成器”提升为了掌握全局的“进化操盘手”。
有意思的是,许冰在X推文中分享说,一年半之前他与Terry Chen刚开始在英伟达研究智能体编程时,他们还不懂GPU编程。“所以从一开始我们就致力于开发完全自动化、无需人工干预的系统。”他们称之为“盲编程”(blind coding)。
“在过去一年半的时间里,我们两人在两个智能体系统中开发了四代智能体。从第二代开始,这些智能体栈就开始自我演化。现在每个智能体的代码行数都约为10万行(非空代码)。”
许冰重点强调了AVO背后的重大意义:“我敢打赌:盲编程是软件工程的未来。人类认知能力是瓶颈。”
5、 算子工程师的“生存危机”?
AVO的成果引发了一个无法回避的问题:当AI智能体能够在7天内超越人类GPU专家的优化成果,算子工程师这个职业的未来在哪里?
这并非危言耸听。在2026年GTC大会上,英伟达CEO黄仁勋描绘了一幅更为宏大的图景:人类工程师将转变为“管理者”,只需输入极少的指令,就能监督大量AI智能体自主完成复杂的多步骤任务。
黄仁勋透露,英伟达目前拥有4.2万名人类员工,未来将配备数十万名“数字员工”。这些AI智能体将自动完成繁琐的任务,大幅提升生产力。
为此,黄仁勋甚至提出了一项颠覆性的薪酬模式:在工程师几十万美元底薪的基础上,额外发放相当于底薪50%的“AI算力Tokens”,鼓励员工调用AI智能体来提升生产力。
6、 “人才悖论”与新机会
然而,这种高度自动化的愿景也加剧了业界对“白领失业”的恐慌。
高盛预测,AI有望让生产力提升15%,但也可能接管美国25%的工作时长,并导致6%至7%的岗位被彻底取代。
当前职场正陷入一种“人才悖论”:美世咨询指出,尽管98%的高管预计AI将在未来两年内引发裁员,但仍有54%的高管将“人才短缺”视为首要挑战。
企业极度缺乏具备AI素养的熟练员工,而负责数据分析、文档处理的初级岗位却面临被率先淘汰的风险。初级岗位的消失正在切断职场新人传统的培训与晋升路径,进一步拉大了技能鸿沟。
不过,高盛经济学家约瑟夫·布里格斯认为,尽管就业市场在转型期会经历失业率上升的阵痛,但技术变革长远来看总会催生全新的职业。约60%的现有工作岗位在1940年时并不存在。
7 、软件工程的新范式
AVO作为通用型进化变异算子,为自动化软件系统优化指明了新方向,不仅适用于AI芯片与深度学习底层开发,更能在高算力需求的科学工程领域广泛应用。
而在大模型日常研发中,这一理念早已落地,LlamaFactory Online它将繁琐的模型微调、训练流程可视化,省去环境搭建与底层代码编写环节,让工程师专注定义目标、配置参数,交由平台自动完成训练调优,完美契合“人类做定义者,AI做执行者”的行业趋势。
英伟达这项研究证实,AI智能体已具备复杂硬件联合推理能力,AVO的自主进化,更标志着AI在软件工程中从辅助工具向自主主体的蜕变。
正如许冰所言,盲编程正是软件工程的未来。当AI能无休迭代优化、自主钻研硬件逻辑,人类工程师终将从执行者,转向问题定义与结果评估的核心角色。
AI自主进化的浪潮已至,你准备好了吗?
