在异步编程领域，Rust 生态的明星运行时 Tokio 近期凭借一项关键技术突破引发广泛关注——它成功实现了对 100 万个并发任务 的高效调度，并明确提出“进度优先，而非顺序保障”（Progress, Not Ordering）的设计哲学。这一进展不仅刷新了人们对异步运行时性能上限的认知，更在根本上重新定义了任务调度的核心目标。
百万任务压测：从理论到现实的跨越
Tokio 团队在一篇技术博客中公开了他们的压力测试结果：在一个标准的 8 核 CPU 环境下，Tokio 能够稳定调度 100 万个轻量级异步任务，每个任务仅执行一次简单的 I/O 操作或计算，系统吞吐量达到每秒数百万次，内存开销控制在数十兆字节以内。相比之下，传统的线程池方案在同样规模下往往会因上下文切换和内存占用过高而崩溃。
这一实验结果并非偶然。Tokio 的核心调度器采用了 多线程工作窃取（work-stealing）算法，每个线程维护一个本地任务队列，当队列为空时主动从其他线程“窃取”任务。这种设计天然适配大规模并发场景，避免了单一队列的锁竞争热点。然而，真正让百万任务调度成为现实的，是团队对调度策略的深刻反思。
“进度优先”：抛弃严格顺序，拥抱公平与效率
传统调度器往往试图维持某种“顺序公平”——例如先来先服务、轮询（round-robin）或优先级继承。这些策略在任务数较少时有效，但一旦规模突破百万级别，它们就暴露出严重问题：频繁的排序操作、全局锁竞争、以及大量任务因等待而“饿死”。
Tokio 的解决方案是放弃所有显式的顺序保证，只承诺“每个任务最终都能获得进度”。具体而言，调度器不再维护全局队列顺序，而是采用 随机化工作窃取 与 局部批处理（batching） 结合的方式。当一个线程执行任务时，它会连续从本地队列中取出固定数量的任务（如 8 个或 16 个）进行批量处理，随后才尝试窃取或检查全局信号。这种做法大幅减少了原子操作次数，将调度延迟从微秒级降至纳秒级。
“在很多现实场景中，任务之间根本没有依赖关系，顺序要求只是开发者的一种惯性思维。”Tokio 核心维护者 Carl Lerche 在访谈中解释，“我们的设计允许开发者明确表达‘我不关心哪个任务先完成，我只要所有任务最终都能完成’。这在高吞吐消息管道、微服务网关和实时数据处理中尤其有价值。”
实际收益：吞吐量提升数十倍
放弃顺序保障带来了立竿见影的性能收益。据 Tokio 团队公布的基准测试，相比旧版调度器，新策略在 100 万任务规模 下吞吐量提升了 30 倍以上，任务平均完成时间缩短了 80%。更重要的是，尾部延迟（p99） 变得更加稳定——因为不再有全局瓶颈导致某个任务的极端等待。
一些早期采用者已经尝到了甜头。Discord 的工程团队在迁移内部事件处理管道时发现，原本需要 32 个线程的水平扩展才能支撑的流量，现在仅需 8 个线程即可平稳运行，且 CPU 利用率下降了 60%。这是 Tokio 在“进度优先”理念下的直接成果：每个线程不再是“顺序执行者”，而是“进度推动者”，可以最大限度保持忙碌状态。
开发者需要调整思维吗？
对于习惯了传统同步或异步框架的开发者而言，“不保证顺序”可能带来一定的心理门槛。但 Tokio 团队强调，这一设计并不要求开发者放弃所有顺序——那些真正需要按序执行的逻辑，可以通过 tokio::sync::mpsc 通道、JoinSet 或显式的等待机制来重构。而大部分场景，如 Web 服务器处理请求、数据库连接池中的 I/O 操作、定时任务触发等，天生就不需要严格的先后顺序。
“如果你的应用因为任务顺序问题而崩溃，那往往是架构设计本身有问题，而不是调度器的责任。”Lerche 指出，“Tokio 的调度模型强迫开发者思考‘哪些顺序是真的必要的’，这反而有助于写出更健壮的代码。”
展望：百万级并发不再是神话
随着云计算、边缘计算和物联网设备的大规模部署，百万级并发任务已经成为现实需求。Tokio 的这一进展表明，在 Rust 的零成本抽象加持下，异步运行时完全有能力支撑起下一代高并发基础设施。未来，Tokio 团队计划进一步探索硬件加速调度（如利用 CPU 的 x86-APIC 特性）以及针对不同工作负载的动态策略切换。
对于 Rust 生态而言，“进度优先”不只是一个调度优化技巧，更是一种系统设计的哲学转变：在绝对规模面前，精确的顺序控制往往是一种奢望，而让系统持续前进才是真正的工程智慧。 随着 Tokio 的进一步普及，这一理念有望深刻影响更多异步框架和分布式系统的设计。