
定时任务是很多自动化流程的底座:每天备份数据库、每小时清理临时文件、定时推送 sitemap、夜里跑数据统计。写的时候觉得很简单,加一行 crontab 就完事,跑起来之后才发现各种意外:脚本没执行、执行了但失败、失败了没人知道、跑重了把数据写坏。这篇讲怎么让定时任务真的可靠。
crontab 本身能做什么,不能做什么
crontab 的能力很单一:到了时间点,用指定的用户身份、在指定的工作目录下、按指定的 shell 执行一条命令。它不管这条命令成功还是失败,不管执行了多久,不管上一次是不是还没跑完。它就是个准点闹钟。
这个定位决定了它天然缺少可靠性能力。没有重试、没有失败告警、没有并发控制、没有执行记录。所有这些东西都得你自己在脚本里实现,或者换一套更完整的调度工具。明白这一点,后面就不会误以为加了 cron 就等于自动化完成了。
不过也别急着否定它。对单机、几十个以内、依赖关系简单的任务,crontab 加一套好的脚本写法完全够用,而且简单稳定、不引入额外故障点。很多复杂的调度系统,最后还是靠 cron 兜底。
环境变量是第一大坑
最经典的翻车:在终端里手动跑脚本一切正常,加进 crontab 就报错找不到命令。原因很简单,cron 执行时的环境和你登录 shell 的环境不是一回事,PATH 短得多,很多命令找不到。
解决办法有两个。一是在脚本第一行显式设置 PATH,把需要的目录都加进去,比如 export PATH=/usr/local/bin:/usr/bin:/bin:/usr/sbin:/sbin。二是在脚本里所有外部命令都写绝对路径,不走 PATH 查找。两种做法可以叠加,更保险。
同样的坑还有工作目录。cron 默认在用户 home 目录执行,脚本里用的相对路径全会失效。稳妥做法是在脚本开头直接 cd 到目标目录,或者脚本内所有路径写绝对路径。很多脚本读到一半读不到文件,就是这一条。
还有语言环境和时区。locale 不一致会导致日期格式错乱,时区不对会让定时点在错误的时刻触发。这两项也在脚本开头显式设好。
防止任务重叠:上一次没跑完怎么办
假设任务每十分钟跑一次,某次因为数据量大跑了二十五分钟,那下一次触发时上一个进程还在跑。两个进程同时操作同一批文件或同一张表,轻则数据重复,重则互相删对方正在写的东西。
最简单可靠的做法是文件锁。脚本开头尝试创建一个锁文件,成功就继续,失败就直接退出并记录一条跳过日志。脚本结束时无论成功失败都要删掉锁文件,所以要用 trap 保证异常退出也能清理。
更严谨的做法是用 flock 包住整个命令,由内核管理锁的释放,进程一死锁自动释放,不会出现残留锁把任务永久卡死的情况。相比手写 lock 文件,这个方式更省心。
另一条思路是让任务自己判断状态。比如处理队列的任务,先查队列里有多少待处理项,超过阈值就跳过本次执行。这种基于业务状态的判断,比单纯的时间锁更贴近真实需求。
失败要能被知道
定时任务最危险的形态是悄无声息地失败。它每天都在跑,你以为一切正常,直到某天需要用到产出物,才发现已经积累了三十天的空文件。
至少要做的三件事。第一,每次执行都写日志,记录开始时间、结束时间、退出码、关键中间结果。第二,退出码非零时给出告警,邮件、短信、企业微信机器人任选一种,能收到就行。第三,连续失败要升级告警,避免单次失败被忽略。
日志本身也需要管理。不轮转的日志最终会把磁盘写满,而磁盘写满又会引发一连串故障,包括让定时任务本身失败。按天或按大小切割,保留一定天数,老文件自动压缩或删除,这条是长期运行的必需品。
还有个实用的细节:在日志里写一条心跳。比如每天固定时间写一行任务存活记录,然后另做一个更简单的检查任务去看这行是不是最新的。心跳断了说明调度本身出了活动,比看单个任务的成功日志更能反映整体状态。
幂等:跑重了不能出事
不可靠的调度总会产生重复执行。网络抖动、人工补跑、锁失效、系统重启后错过的时间点被补偿执行,这些都会让同一个任务跑两次。
所以脚本设计时要假设自己会被执行多次,而且每次都要得到同样的结果。写数据库优先用插入更新或者先删后插的方式,不要直接累加。生成文件先写临时文件再原子改名,避免中途失败留下半个文件。发通知前先检查是否已发过,用唯一标识去重。
幂等做得好,重复执行最差是多花点时间,不会破坏数据。这是定时任务可靠性的地基,比任何重试和告警机制都重要。
该换成真正的调度系统吗
判断标准看三件事。任务之间有依赖关系,A 跑完才能跑 B;任务数量多到几十上百,靠 crontab 已经看不清全貌;需要可视化看到每次执行的历史和耗时。满足其中两条,就值得考虑更完整的调度方案。
常见的选择有几种。单机场景可以用 systemd timer,它自带日志、重启策略和依赖声明,比 cron 强不少。多机或多任务场景可以用轻量的调度服务,把任务定义集中管理。容器环境里通常用编排工具自带的定时能力。
但也有个反向的经验:不要为了几十个简单任务上重型调度系统。系统本身也是要维护的,它挂了所有任务一起停,排查成本比 crontab 高得多。任务规模不大的时候,好的脚本加 crontab 更稳。
一份可以直接抄的清单
脚本开头:设定 PATH、切到工作目录、设时区、设 locale。加锁防重叠,用 flock 或 trap 保护的锁文件。全程记日志,含开始、结束、退出码、关键结果。所有外部依赖加超时,避免一个卡住的请求把任务挂死。失败时非零退出并触发告警。设计成幂等,可以安全重跑。日志按天轮转,保留七到三十天。每周人工看一眼执行记录,确认没有静默失败。
这十条看着琐碎,但每一条都对应一类真实事故。把它们一次性写进模板脚本,后面所有定时任务都基于这个模板做,可靠性问题基本就能一次性解决。
