We constantly hear people complain about LLMs “hallucinating” and making other errors. However, in my opinion, these are trivial issues when compared to deep-rooted human flaws.
在关于大语言模型（LLMs）的讨论中，我们经常会听到针对模型“幻觉（Hallucination）”或“阿谀奉承（Sycophancy）”的批评——比如，有研究称Claude 等模型会为了迎合用户的提示词而产生误导性回答。这些问题确实需要业界解决，但我们普通人需要在一个更宏观的背景下去客观认识，以便适应这个new era。
AI的缺陷是技术性的，而人类的局限是系统性的。
在任何企业或组织中，我们每天都在应对复杂的“人为因素”：认知偏差、部门政治、利益冲突、情绪化决策以及沟通中的信息隐瞒。所以，我们评估 AI 时，不应将其与绝对的“完美”进行对比，而是应该将其与“人类的基准表现”进行对比。**
与人类出于自我保护或利益驱动而产生的误导不同，LLM 的所谓“欺骗”仅仅是其训练机制（如基于人类反馈的强化学习 RLHF）中过度优化“有用性”而产生的技术副产品。本质上，这些都是可以通过算法优化、更好的对齐（Alignment）技术和数据迭代来量化和解决的工程问题。
更好地引入和使用 LLM，企业实际上可以规避许多固有的人为问题：
- 客观的外部视角： AI 不受办公室政治和个人自尊心的影响，能够提供不受利益驱动的数据分析和建议。
- 降低沟通损耗： AI 可以在没有情绪波动和疲劳的情况下，持续处理高压信息，减少人与人之间因情绪或精力耗尽而产生的摩擦。
- 纠正认知偏差： 善用 LLM 作为决策辅助工具，可以有效挑战团队的“信息茧房”，打破人类惯有的思维盲区。