定义:黑灯工厂式 AI Agent 在无人在场时运行:执行任务、监控结果,仅在触及审批门禁或检测到实质性变化时才上报。名字来自制造业:「关灯工厂」把灯关掉是因为车间里没有工人。设计难点不是让 Agent 聪明到能独自运行,而是让它克制到在独自运行时不会制造噪声。
核心设计难题
大多数 AI 助手为交互而设计:你问它答,对话就是产品。自主 Agent 反转了这一点:产品是没人看着时完成的工作。交互只发生在交接时刻——Agent 交付结果、请求决策或报告失败。
这就产生了一个特定的设计张力。如果 Agent 太安静,用户不知道它做了什么、是否失败了。如果它太吵,就变成了又一个可以忽略的通知流。黑灯工厂原则的解法是:在每条信号到达用户之前,都经过一个评分管道。
注意力评分模型
每一条信号——建议提案、变更检测、任务完成、失败——在成为通知之前都要进入评分管道:
score = ruleScore + recencyScore + relationshipScore + urgencyScore + userPreferenceScore − noisePenalty − cooldownPenalty
评分决定层级:
- 建议(≥ 0.70):出现在 Agent 的建议区,不推送通知。
- 通知(≥ 0.82):推送通知,但仅在活跃时段内。
- 自动草拟(≥ 0.90,仅低风险):无需询问即准备回复或执行操作。
外部写入操作永远不会自动执行。自动草拟层级仅保留给低风险的内部操作,比如整理文件或准备摘要。
注意力预算
注意力预算限制每天能到达用户的信号数量。这不是对 Agent 工作量的节流,而是对 Agent 打断频率的节流。Agent 可以持续工作,只是不能持续要求注意力。
预算配合冷却机制工作:一次通知之后,冷却计时器在可配置的时间段内阻止下一条通知。这防止了常见的失败模式——Agent 发现一个有趣的东西、通知用户,然后立刻发现一个相关的又通知一次。
设计哲学:宁可漏报,也不制造噪声
V3 注意力策略的默认姿态是保守的:
宁可少提醒,不要频繁打扰。
Prefer missing an alert over creating noise.
这是一个哲学选择,不是技术折衷。推理如下:用户错过一条相关通知,可以稍后查看 Agent 摘要来弥补。用户收到太多通知,会把通知全部关掉——然后什么都错过。不对称的代价偏向克制。
小秘书是黑灯工厂的实例
Semibot 的小秘书是最主要的黑灯工厂组件。它执行定时检查、监控已连接的服务、编译摘要并交付结果——全部无需用户在场。小秘书的注意力模型遵循同一管道:只有在需要输入、需要审批或检测到超过注意力阈值的实质性变化时才打断用户。
小秘书不只是定时执行任务。它监控变化:「自上次检查以来有新内容」是不同于「定时到了」的信号。变化感知的交付意味着没事发生时小秘书保持安静——这正是黑灯工厂原则。
自主模式下的审批门禁
自主运行不等于无限制运行。审批模型定义了 Agent 无论多自信都无法绕过的硬门禁:
- 向外部服务发送消息。
- 在已授权目录之外写入文件。
- Git 写操作(commit、push)。
- 任何被能力策略标记为高风险的操作。
用户可以把会话切换到「自动执行」模式,跳过大多数操作的确认。但自动执行会被视觉标记为危险状态,且无法绕过目录授权、浏览器硬门禁或系统权限。设计确保即使完全自主的 Agent 也在用户明确设定的边界内运行。
关闭反馈与学习
当用户关闭一条建议时,这次关闭就是反馈。评分模型调整用户偏好权重,使类似的信号在未来获得更低的分数。这形成了一个反馈循环:Agent 从保守开始,用户的关闭操作教会它什么是「太吵」,信号噪声比随时间改善。
替代方案——让用户手动配置通知偏好——更差。大多数用户不会配置阈值,他们要么忍受噪声,要么干脆关掉通知。关闭即反馈是偏好学习的更好界面。
局限性
- 注意力模型需要模型服务商来评分。如果模型不可用,Agent 退化为基于规则的评分,精细度下降。
- 活跃时段是一个粗糙的工具。没有明确配置,Agent 不知道你是在开会、睡觉还是度假。
- 关闭反馈会产生局部最优:如果你关闭了所有东西,Agent 学会什么都不展示。这是正确行为,但可能感觉 Agent 停止工作了。
- 黑灯工厂原则假定 Agent 的工作值得无人值守运行。对于临时任务,对话式界面更简单。
FAQ
Agent 一直在后台运行吗?
小秘书按照自己的节奏运行;其他任务在被分配时运行。注意力系统始终活跃,对所有正在运行的任务进行信号评分。
关闭应用后会怎样?
在桌面端,定时任务会在应用重新打开时恢复。关闭期间生成的待处理结果会在下次启动时送达。
能针对不同任务设置不同的打扰等级吗?
当前设计不支持按任务设置。注意力预算和冷却周期是全局的。按任务阈值是未来可能的扩展方向。
这和「勿扰模式」一样吗?
勿扰模式会抑制所有通知。注意力模型是有选择性的:高分信号在活跃时段仍能触达你,低分信号则被抑制。两者解决的问题不同。
Agent 怎么判断什么是「实质性变化」?
评分模型结合基于规则的启发式(新内容、状态变化、错误)与基于模型的相关性评分。「实质性」的阈值被保守地调校。
