随着生成式人工智能在编程领域的渗透，软件工程师的职责正迅速从从零构建产品，转变为对大型语言模型生成的拼凑代码进行“监护”与调试。
芯片优化软件公司 Infinity 创始人杰里米·尼克松（Jeremy Nixon）指出，现状已演变为部分工程师完全无法理解 AI 生成的代码。研究人员警告，这种广泛使用可能导致认知能力下降和技能退化，开发者正逐渐远离实际编码，丧失构建大型项目所需的核心能力。
前沿实验室亦现“黑盒”困境
即便是顶尖 AI 实验室内部，也难以避免这一困境。独立研究机构 SemiAnalysis 技术人员乔丹·纳诺斯（Jordan Nanos）透露，今年早些时候，OpenAI 工程师在审查用于训练和运行 AI 模型的 GPU 内核代码时，竟无法理解其运作逻辑。
纳诺斯表示，尽管相关人员对硬件和系统概念了如指掌，但面对 DeepSeek MLA 内核时却一头雾水。“你可以逐行检查，但无法解释。AI 理解并测试了它，生成了性能卓越的正确内核，但人类并不一定需要深入推理实际代码。”他认为，AI 已能自主处理硬件上的数据流动和处理元素。
安全隐患与生产力损耗
人类监督的减弱带来了潜在风险。今年，亚马逊因一系列扰乱客户订单的中断事件，被迫实施为期 90 天的“代码安全重置”。尽管官方否认 AI 是直接原因，但内部会议记录显示，管理层对生成式 AI 辅助变更可能带来的“高爆炸半径”深感担忧。
软件公司 Undo 的最新分析进一步印证了这一趋势：约 35% 的 AI 生成代码在推向生产环境前未得到充分理解。调查数据显示，94% 的软件工程师在过去六个月中至少经历过一次因“拆解”AI 代码而导致的生产力损失，29% 的人表示每月多次目睹此类情况。
范式转变还是能力危机？
面对工程师花费大量时间审查 AI 代码的现状，业界对其利弊争论不休。AI 研究者谢尔盖·克莱夫索夫（Sergey Cleftsow）认为，这仅是软件开发范式的转变：“开发者只需定义架构和正确性标准，神经网络将处理其余部分。”
然而，随着软件开发面目全非，这种乐观情绪能否持续仍是未知数。研究人员更担心，新一代工程师成长在一个削弱代码理解价值的环境中，这对于日益数字化且以 AI 为核心的世界秩序而言，并非吉兆。