并不存在所谓的 AI 智能体

📌 One-Sentence Summary 作者认为「AI 智能体」是神学与营销的幻象，主张将 LLM 视为嵌入在确定性代码中、受经典责任与委托原则约束的类型安全软件模块。 📝 Summary 本文批判了将 AI 拟人化为「自主智能体」的倾向，认为这是公司逃避法律责任并抹除模型背后人类劳动的手段。作者指出，由于延迟、幻觉和认知上的不诚实，生成式 LLM 从根本上不适合用于后端自动化。相反，作者提出了一种「系统一」架构方法——使用快速、带类型的分类头来进行结构化决策，而非顺序字符串生成。此外，作者将现代 AI 委托与经典伊斯兰商业法（特别是 qirâd 合同和对 gharar 的禁止）进行类比，建议自动化必须由确定性的结算、签署的执行记录和绝对的人类责任来界定，才能在伦理和操作上可行。 💡 Main Points 「AI 智能体」是用来掩盖责任的神话 将 LLM 拟人化为自主实体，抹除了其创建过程中涉及的人类劳动，并允许供应商在非确定性系统于高风险环境下失效时推卸责任。 生成式字符串不适用于生产环境自动化 自回归 Token 预测在后端工作流中引入了致命缺陷，包括高延迟、类型错误（幻觉 Schema）、过度自信以及极高的计算成本。 自动化需要转向类型安全、结构化的决策 真正的自动化应将 LLM 视为软件原语——即快速且模糊的分类器，将非结构化数据映射到预定义的、带类型的程序状态（例如「系统一」模型），从而保持控制流的确定性。 AI 委托应镜像经典商业法 通过应用 qirâd（风险共担股权）的概念并消除 gharar（过度不确定性），AI 系统应在明确的授权范围内运行，且人类管理人员仍承担严格责任。 💬 Key Quotes 不存在 AI。只存在人们，他们的劳动被抓取并编译成一面统计之镜。 LLM 不是智能体。它只是软件。 现代科技所谓的智能体自主性，大部分是贴了品牌标签的 gharar。 解决 gharar 的工程方案不是放弃机器学习，而是强制执行确定性的结算边界。 📊 Article Meta AI Screening： 89 Source： Hacker News - Newest: "AI Agent" Author： ZAKIM Category： 人工智能 Language： 英文 Read Time： 15 min Word Count： 3667 Tags： AI 与智能应用 , AI 工程 , AI 工作流 , AI Agent , 大语言模型 (LLM) Read Full Article