SemibotSemibot - AI桌面客户端
全部指南

黑灯工厂原理:无人值守 AI Agent 如何自主工作

黑灯工厂无人开工所以关灯。自主 AI Agent 遵循同样的原则:无人时执行,仅在门禁处上报。难的不是智能,而是克制。

定义:黑灯工厂式 AI Agent 在无人在场时运行:执行任务、监控结果,仅在触及审批门禁或检测到实质性变化时才上报。名字来自制造业:「关灯工厂」把灯关掉是因为车间里没有工人。设计难点不是让 Agent 聪明到能独自运行,而是让它克制到在独自运行时不会制造噪声。

核心设计难题

大多数 AI 助手为交互而设计:你问它答,对话就是产品。自主 Agent 反转了这一点:产品是没人看着时完成的工作。交互只发生在交接时刻——Agent 交付结果、请求决策或报告失败。

这就产生了一个特定的设计张力。如果 Agent 太安静,用户不知道它做了什么、是否失败了。如果它太吵,就变成了又一个可以忽略的通知流。黑灯工厂原则的解法是:在每条信号到达用户之前,都经过一个评分管道。

注意力评分模型

每一条信号——建议提案、变更检测、任务完成、失败——在成为通知之前都要进入评分管道:

score = ruleScore + recencyScore + relationshipScore + urgencyScore + userPreferenceScore − noisePenalty − cooldownPenalty

评分决定层级:

  • 建议(≥ 0.70):出现在 Agent 的建议区,不推送通知。
  • 通知(≥ 0.82):推送通知,但仅在活跃时段内。
  • 自动草拟(≥ 0.90,仅低风险):无需询问即准备回复或执行操作。

外部写入操作永远不会自动执行。自动草拟层级仅保留给低风险的内部操作,比如整理文件或准备摘要。

注意力预算

注意力预算限制每天能到达用户的信号数量。这不是对 Agent 工作量的节流,而是对 Agent 打断频率的节流。Agent 可以持续工作,只是不能持续要求注意力。

预算配合冷却机制工作:一次通知之后,冷却计时器在可配置的时间段内阻止下一条通知。这防止了常见的失败模式——Agent 发现一个有趣的东西、通知用户,然后立刻发现一个相关的又通知一次。

设计哲学:宁可漏报,也不制造噪声

V3 注意力策略的默认姿态是保守的:

宁可少提醒,不要频繁打扰。
Prefer missing an alert over creating noise.

这是一个哲学选择,不是技术折衷。推理如下:用户错过一条相关通知,可以稍后查看 Agent 摘要来弥补。用户收到太多通知,会把通知全部关掉——然后什么都错过。不对称的代价偏向克制。

小秘书是黑灯工厂的实例

Semibot 的小秘书是最主要的黑灯工厂组件。它执行定时检查、监控已连接的服务、编译摘要并交付结果——全部无需用户在场。小秘书的注意力模型遵循同一管道:只有在需要输入、需要审批或检测到超过注意力阈值的实质性变化时才打断用户。

小秘书不只是定时执行任务。它监控变化:「自上次检查以来有新内容」是不同于「定时到了」的信号。变化感知的交付意味着没事发生时小秘书保持安静——这正是黑灯工厂原则。

自主模式下的审批门禁

自主运行不等于无限制运行。审批模型定义了 Agent 无论多自信都无法绕过的硬门禁:

  • 向外部服务发送消息。
  • 在已授权目录之外写入文件。
  • Git 写操作(commit、push)。
  • 任何被能力策略标记为高风险的操作。

用户可以把会话切换到「自动执行」模式,跳过大多数操作的确认。但自动执行会被视觉标记为危险状态,且无法绕过目录授权、浏览器硬门禁或系统权限。设计确保即使完全自主的 Agent 也在用户明确设定的边界内运行。

关闭反馈与学习

当用户关闭一条建议时,这次关闭就是反馈。评分模型调整用户偏好权重,使类似的信号在未来获得更低的分数。这形成了一个反馈循环:Agent 从保守开始,用户的关闭操作教会它什么是「太吵」,信号噪声比随时间改善。

替代方案——让用户手动配置通知偏好——更差。大多数用户不会配置阈值,他们要么忍受噪声,要么干脆关掉通知。关闭即反馈是偏好学习的更好界面。

局限性

  • 注意力模型需要模型服务商来评分。如果模型不可用,Agent 退化为基于规则的评分,精细度下降。
  • 活跃时段是一个粗糙的工具。没有明确配置,Agent 不知道你是在开会、睡觉还是度假。
  • 关闭反馈会产生局部最优:如果你关闭了所有东西,Agent 学会什么都不展示。这是正确行为,但可能感觉 Agent 停止工作了。
  • 黑灯工厂原则假定 Agent 的工作值得无人值守运行。对于临时任务,对话式界面更简单。

无人值守的四条保障门禁

Semibot 的黑灯工厂(Goal Factory)建立在单一目标内核之上,不另造第二套任务系统;会话输入框是创建目标的唯一入口。无人值守的可行性不来自更强的模型,而来自四条清晰的门禁。第一,审批不可预授权:定时任务沿用创建时的审批模式快照,无人值守时遇到等待确认的操作就停在原地等待,绝不因用户不在线而自动升级为放行。第二,额度必须预授权:每次后台运行在首次调用前必须持有创建时设定的点数预算,达到上限即暂停并通知,杜绝「先斩后奏」的消耗。第三,禁止自我复制:运行中的任务不能创建、删除或修改定时任务本身,防止调度器自我扩散。第四,凭证不可自动输入:定时浏览器任务同样受登录与支付等硬门禁约束。

同样有研究价值的是被记录下来的失败案例。一次发布评审中,创建目标时无条件清空输入框草稿导致用户材料与意图被静默丢弃,且不可恢复——该问题被定为 P0 数据连续性门禁失败,发布被否决,修复要求把材料持久化进目标契约或在提交前明确阻止。这个案例说明了无人值守系统的真正风险分布:不是模型做出错误推理,而是工程缝隙里的静默数据丢失。

适用边界同样被明确写入设计:黑灯工厂面向有明确完成终点的复杂目标。开放式的持续关注属于小秘书的持续委托模型,两者在架构上分工而非混同。

FAQ

Agent 一直在后台运行吗?

小秘书按照自己的节奏运行;其他任务在被分配时运行。注意力系统始终活跃,对所有正在运行的任务进行信号评分。

关闭应用后会怎样?

在桌面端,定时任务会在应用重新打开时恢复。关闭期间生成的待处理结果会在下次启动时送达。

能针对不同任务设置不同的打扰等级吗?

当前设计不支持按任务设置。注意力预算和冷却周期是全局的。按任务阈值是未来可能的扩展方向。

这和「勿扰模式」一样吗?

勿扰模式会抑制所有通知。注意力模型是有选择性的:高分信号在活跃时段仍能触达你,低分信号则被抑制。两者解决的问题不同。

Agent 怎么判断什么是「实质性变化」?

评分模型结合基于规则的启发式(新内容、状态变化、错误)与基于模型的相关性评分。「实质性」的阈值被保守地调校。

相关阅读