标签：样本效率

强化学习代码中的两种触发更新策略方式：基于步数与基于轨迹数

本文系统对比了强化学习中两种核心的更新触发策略——基于步数与基于轨迹数，分析其原理、优劣及适用场景。基于步数的策略以固定环境交互步数（如8192步）触发更新，支持数据截断与价值函数bootstrap估计，适合连续控制、长周期任务及资源受限场景，具备高样本效率与稳定计算开销。基于轨迹数的策略则以完整episode数量（如64个）为更新条件，依赖真实终止状态回报估计，更适用于目标明确、episode长度适中、奖励稀疏的任务，能保持任务语义完整性与理论一致性。文章通过多维度对比，为不同强化学习任务场景下的策略选择提供实用指南。