AI 的“暗面”：深者是漏洞猎人

2025-10-09 ｜ 清醒生活 / 经验与认知 / AI 与知识拉平 ｜ 约 5分钟

AI 生成的方案，读起来往往很顺、很专业、很有条理。

但顺，不等于对。方案里的每个漏洞，都可能是现场的一场事故。

这篇讲清一件事：AI 会出错，而且错得“很像对”。深者的价值之一，就是当那个把漏洞挖出来的“猎人”。

AI 出错的两种典型方式

AI 的错，很少是“胡说八道”那种一眼能看穿的错。它更常见的是看起来合理、放下去出事。

第一种：推荐了不兼容的设备。

有一次，AI 给一套既有系统推荐了一个控制器。单看这个控制器，参数漂亮、功能齐全、价格也合适，AI 的推荐理由写得头头是道。

可它不知道，客户现有的系统接口根本接不上。装上这个控制器，要么整套系统得大改，要么它根本没法接入调度。纸面上的好设备，到现场成了麻烦。

第二种：建议了有风险的做法。

还有一次，AI 建议了一种蓄热方式。在一般地质条件下，这种方案确实是常见的、可行的。

但它没问场地的地质条件。在那个具体项目的地质条件下，这个做法风险很高——AI 不知道，因为它从来没见过那个场地。

两种错的共同点：AI 只看“方案本身合不合理”，不看“这套方案放进这个客户、这个场地，会不会出事”。

为什么会这样

原因其实很简单：AI 的逻辑是“通用最优”，而事故往往藏在“具体条件的例外”里。

它推荐设备，看的是参数和性价比，看不到这个客户机房里现有的接口；

它推荐方案，看的是通用做法，看不到这个项目地下是什么土、什么水。

它不缺逻辑，缺的是现场。而现场经验，恰恰是一份方案能不能落地的那道关。

三重校验：把漏洞挖出来

为了不被 AI 的“顺”骗过去，我习惯给每份方案做三重校验。

第一重，逻辑校验。

先看方案内部自不自洽。比如蓄热容量和放热需求到底匹不匹配？蓄得下、放得出，方案才成立。很多看似漂亮的方案，一笔账算下来就是矛盾——内部逻辑先不过关。

第二重，意图校验。

再看方案符不符合客户的核心目标。客户要的是省钱，你却给他配了一堆高价设备——技术再先进，也是跑偏了。方案得冲着客户真正想要的东西去，而不是冲着“技术先进”去。

第三重，现场可行性校验。

最后看现场能不能落地：安装空间够不够、运维难度高不高、现有条件接不接得上。

• 安装空间：设备进得去吗？放得下吗？
• 运维难度：客户那几个人，操作得来吗？
• 兼容性：和现有系统接得上吗？

这三重里，第二重和第三重，AI 基本帮不上忙——因为它不知道客户的意图，也没见过客户现场。这两重，正是“深者”的岗位。

漏洞猎人的眼睛，是炼出来的

有人会问：你怎么一上手就能看出这些坑？

答案很朴素：踩过。

推荐了不兼容的控制器，是因为以前遇到过接口不匹配的麻烦；警惕某种蓄热方式的风险，是因为知道那个地质条件下会出什么问题。这些判断不在任何数据表里，在一次次现场的记忆里。

AI 看不见的坑，我来填——漏洞猎人的眼睛，是用无数现场经验炼出来的。

这就是“深者”不可替代的地方。AI 会越来越聪明，能帮你生成方案、校验逻辑、查漏补缺，但“这套方案放进这个现场会不会出事”这一问，只有经历过足够多现场的人答得出来。

深者不替，替的是找坑的体力，替不了踩过坑的判断。

常见问题

问：AI 推荐的设备看起来都挺合理，怎么判断它会不会不兼容？

答：别只看设备本身，要拿它去对现场的“接口条件”。客户现有系统的接口、通信协议、调度方式是硬约束，设备再好也不能绕开这些。这一条 AI 通常不知道，得你自己去核。

问：怎么防止 AI 推荐有风险的方案？

答：把当地的具体条件补进校验流程——地质、气候、场地、供应链，逐项过。AI 给的是通用做法，你要问的是“这个做法放到这个项目上，还成不成立”。

问：三重校验里，哪一重最容易被漏掉？

答：意图校验和现场可行性校验最容易漏。逻辑校验大家都会看，但“客户是不是真的想要这个”“现场是不是真的装得下、跑得起”，需要跳出方案本身去想，最容易被忽略。

问：AI 以后越来越强，漏洞会不会就少了？

答：会少一些，但不会消失。AI 的盲区在“具体现场”，而现场永远是具体的、个别的。只要项目还在真实的地理和工况里，就需要一个懂现场的人来兜底。