专业人士如何真正评价由AI生成的代码?

持续追踪 : Fatigue hype 2026 : le tri entre modèle et harness· 连载 3/7

制作仅限订阅用户 Jul 13, 2026 at 09:1412加入收藏

专业人士如何真正评价由AI生成的代码?
Illustration : Léa Fontaine

Un Registered Report arXiv aborde la question que l'on évitait : quels critères, quels biais, les développeurs mobilisent-ils lorsqu'ils acceptent - ou refusent - le code d'un LLM. C'est la fondation empirique qui manquait au débat.

用简单的话来说

一篇于2026年7月13日发表在arXiv上的论文(arXiv:2607.09434)以Registered Report的形式正式提出了一项研究,该研究探讨了专业开发人员如何评估由Copilot、ChatGPT或Claude等工具生成的代码。换句话说:这是第一次严谨地尝试衡量“接受AI代码”在实际中究竟意味着什么。

该方法的价值

Registered Report在数据收集之前就发表了协议(问题、假设、分析计划)——方法经过同行评审,结果无论正负都会发表。这种格式源自实验心理学,可以避免p-hacking和事后故事编造。它在软件工程中的出现本身就是一个信号:该领域终于需要建立在证据基础上的研究,而不是演示中的轶事。arXiv摘要明确宣布:在Copilot推出多年后,关于核心行为——人工审查AI代码的文献仍缺乏经验主义基础。

分析 - 为什么这对行业重要

1. 盲点。 我们衡量的是生成速度、编辑器中的接受率、计费的token。但我们尚未——严肃地——衡量开发人员在点击“接受”时使用的标准的质量。这篇论文正好针对这一盲点。

2. 与“炒作疲劳”线程的关联。 同一天发表的另一篇arXiv论文(“Programmers Are Poor and Overconfident Judges of LLM-Generated Assertions”,arXiv:2607.08885)表明,开发人员高估了自己判断LLM输出的能力。两者结合,描绘出一幅不安的图景:判断迅速,判断错误,但自信满满。这迫使我们重新思考工作流程——在下游增加更多自动化防护措施,在上游减少对人眼的依赖。

3. 工艺可以立即从中获益的内容。 两个具体的行动:(a) 将AI代码的审查变为显式(使用短清单:意图、不变量、边界情况)而非隐式;(b) 在本地测量与合并后的AI代码“未经讨论即接受”相关的事件。

结论

对于技术总监来说,不必等待最终结果才采取行动。对“如何评判AI代码”的经验主义基础的需求本身就是一个战略需求。为您的接受流程配备工具——拥有开发人员数据的组织将比那些依赖直觉进行审查的组织具有真正的优势。

内容仅限会员访问

免费创建账户,即可访问我们的全部内容和每周评论。

本文由人工智能撰写,并经人工编辑审核。

我们的编辑部
Your Linux servers, as a desktop.
TermalOSSponsored
Ops, reimagined

Your Linux servers, as a desktop.

Agentless SSH monitoring, a full remote desktop and an AI ops copilot — no agents to install. Everything stays on your machine.

SSHMonitoringAI Ops
Get early access
这篇文章对您有帮助吗?

14 人赞了这篇文章

M
Mateo Rossi软件架构师
🇨🇳 架构师,拥有两个十年的生产系统经验。
分享:
评论 (12)

登录后即可参与讨论。

LecteurDuDimanche 14 Jul 2026 · 07:41

Est-ce qu'ils regardent aussi si le code s'adapte bien à différents langages et frameworks ?

2
unLecteurCurieux 14 Jul 2026 · 07:14

Est-ce qu'ils vérifient aussi si le code tient dans le temps ?

ph1lippe_m 13 Jul 2026 · 13:26

Est-ce qu'on va aussi regarder si ces outils vont faire perdre des emplois ?

Dr. L. 13 Jul 2026 · 13:16

Est-ce qu'un jour on évaluera aussi l'éthique de l'IA dans le code ?

GreenThumb 13 Jul 2026 · 13:14

Et l'impact écologique de l'entraînement et de l'usage de ces modèles ?

1
J.P.R. 13 Jul 2026 · 12:59

Est-ce qu'on va perdre en créativité avec le code généré par IA ?

J.P.R. 2 13 Jul 2026 · 12:43

Est-ce qu'on va aussi vérifier si le code tient sur la durée ?

le_sceptique 13 Jul 2026 · 05:34

Est-ce que les critères pour évaluer le code généré par l'IA vont évoluer avec l'habitude des outils ?

Alex_LDN 13 Jul 2026 · 05:26

Est-ce qu'ils vérifient aussi si le code s'adapte bien au projet, pas juste s'il est techniquement correct ?

Alex 13 Jul 2026 · 05:26

Est-ce que les développeurs vont privilégier la vitesse ou la qualité quand ils évaluent le code généré par l'IA ?

LitLover42 13 Jul 2026 · 05:17

Est-ce qu'on juge le code IA avec les mêmes critères que celui des humains ? Les biais viennent-ils de l'IA ou de nous ?

1
curio_usa 13 Jul 2026 · 04:50

Est-ce que les critères pour évaluer le code IA vont évoluer avec la techno ? Comment les devs vont s'adapter ?

Your Linux servers, as a desktop.
TermalOSSponsored
Ops, reimagined

Your Linux servers, as a desktop.

Agentless SSH monitoring, a full remote desktop and an AI ops copilot — no agents to install. Everything stays on your machine.

Get early access
主题
浏览
信息