在人工智能应用飞速发展的今天，调用大语言模型（LLM）的成本成为越来越多的开发者与企业的“隐形负担”。每次API请求都需按token付费，而不同模型的定价差异可达数十倍。如何在不牺牲性能的前提下把每一分钱花在刀刃上？YC S26期的新项目Tokenless给出了一个全新的答案——通过自动模型切换，让系统按需选择成本最低的模型，实现“无感省钱”。
一、什么是Tokenless？一个聪明的“模型调度大脑”
Tokenless是一个面向AI应用开发者的智能模型路由层。它的核心思路极为直接：当用户向应用发出请求时，Tokenless会自动分析请求的复杂度、上下文、安全性要求等维度，然后从支持的数十种模型（如GPT-4o、Claude 3.5、Llama 3等）中选出最匹配且成本最低的模型进行响应。整个过程对终端用户完全透明，开发者只需接入一个统一接口，即可获得跨模型的最优成本方案。
简单来说，Tokenless就像一名精明的“模型调度员”：简单问答用便宜模型，复杂推理调昂贵模型，重试或降级策略自动执行。据团队测试，在典型对话场景下，Tokenless可以将API调用成本降低60%-90%，同时保持90%以上的响应质量。
二、技术解密：如何在不损失质量的前提下“省”？
Tokenless的技术核心在于一套轻量级的请求评估系统。它并非简单地对返回结果进行后处理，而是在请求到达时，通过以下几步完成智能调度：
- 复杂度打分：利用一个小型模型快速评估问题的难度、所需上下文长度、逻辑推理深度，生成一个0-100的复杂度指数。
- 模型候选池：根据打分结果，从预设的模型组合中筛选出适合的候选。例如，简单的翻译或摘要任务可以交给GPT-4o mini或Claude Haiku，而需要严格逻辑的编程任务则保留给Claude Opus。
- 成本预算绑定：用户可设定每次请求的最大成本限制，Tokenless会在此约束下选择最佳模型。如果预算内无合适模型，则自动降级为“再询问”或“缓存历史答案”。
- 持续学习：系统还会记录每次调用的实际效果，通过反馈循环优化后续的模型选择策略。
值得一提的是，Tokenless完全不需要用户放弃对模型的控制权。开发者仍可指定“必须使用某模型”的白名单，也可以设置“当请求涉及敏感数据时仅调用本地模型”的策略。
三、痛点与市场：API账单爆炸，开发者急需“省钱工具”
大模型API的价格战愈演愈烈。OpenAI多次降价，Claude也推出不同价位版本，但开发者的总花费反而在上涨。原因很简单：应用场景越来越复杂，用户对体验的要求越来越高，简单模型难以胜任，昂贵模型又用不起。
许多团队不得不在应用中手动编写多条if-else逻辑，根据关键词或意图切换到不同模型。这种方案不仅维护成本高，而且难以覆盖所有边界情况。Tokenless的出现恰好填补了这一空白：它提供了一套开箱即用的智能路由，无需开发者编写复杂的调度代码，只需通过简单的SDK接入即可。
YC合伙人Gustaf Alströmer在内部Demo Day上评价：“Tokenless解决了AI应用规模化中一个非常实际的问题——成本控制。它让初创公司能用更少的钱跑更多的推理，这可能是2025年AI基础设施里最被低估的刚需。”
四、实际案例：从50%到90%的降本奇迹
根据Tokenless团队公布的早期测试数据，在一个月内，某虚拟客服类应用在接入Tokenless后，平均每次对话成本从0.042美元降至0.008美元，降幅达81%。而用户满意度（通过A/B测试的CSAT分数）仅下降1.2%，几乎不可察觉。
另一个案例是AI编程辅助工具。在代码审查场景中，Tokenless将简单语法检查分配给了开源模型CodeLlama，只有复杂逻辑分析才调用GPT-4o。最终总成本降低73%，而代码错误率的提升小于0.5%。
五、未来展望：从“模型路由器”到“AI成本治理平台”
Tokenless的联合创始人兼CEO Alex Chen指出，当前的v1版本专注于“调用时的模型选择”，但长期愿景是通过对调用日志的智能分析，帮助开发者发现成本异常、优化提示词结构、甚至自动生成更高效的prompt。他表示：“我们希望Tokenless成为AI应用的成本治理中心，让每一笔推理都物有所值。”
项目目前已获得YC投资，并开放了早期接入申请。对于正在被API账单困扰的开发者来说，这或许是一个值得关注的“省钱利器”。毕竟，当AI的能力不断上升时，如何用更低的成本驾驭它，才是真正决定商业落地速度的关键。
注：Tokenless目前支持OpenAI、Anthropic、Mistral、Meta Llama、Google Gemini等主流模型接口，并提供Python、Node.js和REST API三种接入方式。申请地址详见YC S26项目列表。