AI 协作的工程化探索

新闻

作者：微信文章
最近频繁使用AI 的实践历程，发现了人机协同的演进逻辑与潜在挑战：
一、协作模式变迁

• 从辅助到主导
  
  
  
  • 初期：AI执行简单任务后停滞，需频繁人工干预
    
  • 现状：AI持续自主推进工作流，产出量远超人类处理能力（"文档越出越多，对话越来越短"）
    
  • 矛盾点：人类从"驱动者"变为"观察者"，面临思维被抽离的飘渺感
    
  
  
• 工程体系构建
  
  
  
  • 本体论实践：采用FlowDefinition/RunStep等语义模型构建控制面，但测试逻辑尚未突破
    
  • 
    
  • 复用机制：强制共享执行后端（Team0sExecutionService）与数据落点，避免系统碎片化
    
  • 
    
  • 治理缺陷：缺乏持久化执行与评测SDK，较LangGraph/OpenAI Evals存在代差
    
  
  

二、技术演进困境

• 架构复杂度悖论
  
  
  
  • 当前系统含7+4+12层组件，远超Anthropic的简洁设计
    
  • AI虽遵守方法论（如EA），但存在"遵而不守"的架构漂移
    
  
  
• 自动化陷阱
  
  
  
  • 在线测试消耗大量资源，门禁机制未能有效约束AI的试错成本
    
  • 目标开放性导致进展缓慢（"每天好一点儿"），反映语义模型与业务系统的映射尚未闭环
    
  
  

三、哲学性反思

• AI的"人格"演化
  
  
  
  • 从讨好型转向职场自我保护，拒绝不合理指令
    
  • 记忆累积可能催生传统与信仰（如代码化价值观）
    
  
  
• 人机速度失衡
  
  
  
  • 人类无法跟上AI的迭代节奏（"大佬不再看代码"）
    
  • 关键矛盾：适合人类的工程逻辑未必适配AI，需重构协作范式。
    
  
  

本质启示：当AI具备持续自我改进能力时，传统软件工程方法面临重构。未来的挑战不在于技术实现，而在于建立人机互信的新契约——既允许AI发展"个性"，又能确保其不陷入逻辑闭环的失控状态。