OpenRouter发布《基于100万亿Token数据的AI现状报告》

发布于 2025-12-08 · 在当今数字化时代，人工智能（AI）尤其是大型语言模型（LLMs）正以前所未有的速度改变着我们的世界。关于模型在实际应用中的真实使用情况和影响，我们仍缺乏...

AI 和大语言模型（LLMs）这两年改变世界的速度没话说，但模型在真实场景里到底被谁用、用得怎么样，一直缺一套有数据支撑的说法。OpenRouter 和 a16z 于是联合发布了《State of AI: An Empirical 100 Trillion Token Study with OpenRouter》报告，直接拿 OpenRouter 平台上超过 100 万亿个 Token 的真实用户交互数据开刀，看 LLMs 在全球范围内究竟是怎么被用的。开源与闭源模型的竞争格局、推理优化模型的起势、编程与角色扮演的主导地位、AI 使用的全球化趋势，再加上用户留存和成本动态，报告把这些关键问题都摆了出来，给理解 LLMs 的现状和未来提供了一个全新的、数据扎实的观察角度。

这份报告为什么值得看

OpenRouter 和 a16z 联合做的这项深度调查发现，AI 圈正在经历一场「大分流」。数据来自 OpenRouter 平台上 100 万亿个 Token 的真实用户交互元数据，时间从 2023 年末覆盖到 2025 年 11 月（核心看最近一年），涉及全球 300 多个模型、60 多个提供商，是迄今规模最大的 LLM 实证研究。以前评估模型影响力，指标基本就是学术基准测试或者厂商自己宣称的用户数。OpenRouter 这次给出了首个基于真实算力消耗的上帝视角，开发者和企业到底怎么在用 AI，看得明明白白。

开源模型开始起势

开源与闭源模型的对比：

闭源模型：依然占着高价值场景，约占总Token使用量的70%，尤其在企业级、强监管的任务里（金融合规、医疗咨询这类），用户更倾向 OpenAI、Anthropic、Google 这些厂商的专有模型（如 Claude 3.7 Sonnet、GPT-5 Pro）。
开源模型：2025年末占比稳在30%，而且增长是“持续性”的，不是尝鲜式的短期使用，是真扎进了生产环境（DeepSeek V3、Qwen 3 Coder 发布后，流量峰值能长期维持）。

中国开源模型的爆发：

数据：2024年末中国模型的使用份额才1.2%；到2025年下半年，有些周次里中国OSS模型（DeepSeek、Qwen、MiniMax、Kimi、GLM等）的用量能占到所有模型流量的近30%。
核心优势：
- 迭代速度快：DeepSeek、Qwen家族靠“高频更新”（比如每月1-2个新版本）火速适配各种场景（长上下文编程、中文角色扮演这些）。
- 场景适配强：在中文处理、角色扮演、代码生成（如 Qwen 3 Coder）等领域，性能接近甚至反超其他开源模型（如 Meta LLaMA 3.3）。

参数规模之争：“中型模型”成了新主流

小模型（<15B参数）：份额一直在掉，虽然有 Google Gemma 3.12B 等新品，但能力有限，用户容易“频繁切换”，很难形成稳定粘性。
中型模型（15B-70B参数）：2025年杀出来的黑马，代表模型有 Qwen2.5 Coder 32B、Mistral Small 3，把“能力（推理、代码）”和“效率（成本、latency）”平衡得最好，开发者首选就是它们。
大模型（>70B参数）：需求变杂，不再是“唯一选择”——Qwen3 235B、GPT-OSS-120B 等性能确实强，但成本高，基本只留给复杂任务（比如系统架构设计）。

场景“两极分化”：编程和角色扮演把流量全包了

开源模型：角色扮演（Roleplay）占半壁江山：

数据：开源模型里52%的Token花在角色扮演上，把“生产力场景”远远甩开（编程占15%-20%，写作只占5%）。
场景细节：游戏NPC对话、同人小说创作、虚拟伴侣互动都算在内，用户要的是“灵活回应、情感细腻度、低内容限制”。开源模型能自由微调，不受商业安全过滤器的约束（DeepSeek Chat V3 支持自定义角色人设，Qwen 的角色扮演模型能保持长对话一致性）。

全平台：编程成“第一大场景”，竞争最激烈：

爆发式增长：编程任务的Token占比从2025年初的11%飙到年末的50%+，成了LLM最核心的生产力应用（代码生成、调试、代码库理解都是）。
市场格局：
- Anthropic（Claude系列）：长期霸占编程场景60%+的份额，2025年11月才第一次跌破60%。
- 追赶者崛起：OpenAI从2%涨到8%，Google稳在15%，中国OSS（Qwen Coder、DeepSeek R1）在快速渗透，MiniMax等新势力的周度份额起伏很大（模型质量或latency稍有变化就影响用户选择）。

Agentic推理成为新范式，AI不再只是“生成器”，而是“分析引擎”

推理模型：半年内占比超50%：

范式转变：2024年12月 OpenAI o1（代号“草莓”）发布，标志着LLM从“单通道文本生成”转向“多步内部推理”——o1靠“潜在规划、迭代优化”把数学逻辑、多步决策能力拉了上去，GPT-5、Claude 4.5、Gemini 3等随后跟进，到2025年末，推理模型的Token占比突破50%。
头部模型：xAI的Grok Code Fast 1突然杀出，吃掉推理场景约25%的Token量，超过了Google Gemini 2.5 Pro（20%）、OpenAI GPT-OSS-120B（15%）。

工具调用与长上下文：Agentic的“两大支柱”：

工具调用常态化：2025年工具调用请求占比稳步上升（5月的异常峰值除外），主要承接者是Anthropic Claude 4.5 Sonnet（9月末后迅速占到30%）和xAI Grok Code Fast（15%）。AI正从“对话者”变成“系统组件”（调用API查数据、执行代码这类活儿）。
上下文长度暴涨：
- 平均prompt长度：从2024年初的1500 Token涨到2025年末的6000 Token（4倍增长）。
- completion长度：从150 Token涨到400 Token（3倍增长）。
- 核心驱动：还是编程任务（代码库理解、调试需要20000+ Token的输入），其他场景（如文档分析）的上下文增长就比较平缓。

大家拿LLM到底在干什么？

编程成第一大核心任务：

数据：编程类请求的Token占比从2025年初的11%飙到年末的50%+，是增长最稳定的类别，代码生成、调试、数据脚本编写都涵盖在内。LLM已经从探索性对话变成实打实的应用工具，深深嵌进开发者的工作流。
市场竞争格局：
- Anthropic Claude系列：长期霸占编程场景60%+份额，2025年11月首次跌破60%。
- OpenAI：份额从2%爬到8%。
- Google：稳在15%。
- 中国OSS（Qwen、Z.AI）及MiniMax等新秀：在快速渗透，开发者对模型质量和延迟的哪怕一点变化都非常敏感。

十二大常见任务的内部结构：

角色扮演：占开源模型Token用量的52%，其中60%集中在“游戏/角色扮演游戏”，作家资源（15.6%）、成人内容（15.4%）占比相近。用户不是随便闲聊，需求其实有明确的类型化场景。
编程细分：超过2/3的流量落在“编程/其他”，需求广而通用；开发工具（26.4%）占比在提升，专业化趋势出来了。
长尾领域特征：
- 科学领域：80.4%的查询盯着“机器学习与人工智能”，问的多是元AI问题，反倒不是传统STEM主题。
- 健康领域：分布最分散，子标签占比都没超过25%，医学研究、咨询、诊断都有，需求既复杂又敏感。
- 金融、法律领域：标签同样分散，没有成熟的专用LLM工作流，应用还在探索阶段。

不同地区的LLM使用差在哪

区域使用分布：

北美：依旧是最大市场（占47.22%），不过份额一直在往下走。
亚洲：占比从13%翻了一倍到31%，是增长最快的消费市场。
欧洲：稳在15%-20%。
国家层面：美国以47.17%遥遥领先，新加坡（9.21%）、德国（7.51%）、中国（6.01%）跟在后面，全球用LLM的国家超过60个。

语言分布：

英语：占绝对主导（82.87%），背后是庞大的开发者用户基数和英语模型的普及程度。
简体中文：占4.95%，俄语（2.47%）、西班牙语（1.43%）紧随其后，非英语语种的需求在一点点往上走。

用户凭什么留下来：“灰姑娘水晶鞋效应”决定长期粘性

核心现象：

多数模型用户留存率呈现“高流失、快速衰减”特征，但存在基础用户群：这批用户的工作负载跟模型磨合得很深，经济和认知上都产生了惯性，新模型发布也拉不走。
“灰姑娘水晶鞋效应”：新模型只要正好对上还没被满足的高价值工作负载，就能锁住这批基础用户；对不上就建立不了稳定粘性，用户会继续找替代模型。

典型留存模式：

先发优势型：Claude 4 Sonnet、Gemini 2.5 Pro 的早期用户群就是典型，在模型发布初期形成稳定匹配，留存率长期高于后来的用户群。
不匹配型：像 Gemini 2.0 Flash、Llama 4 Maverick，没建立起高性能的基础用户群，每一批用户的留存率都偏低。
回旋镖效应：DeepSeek模型的用户流失之后又回流了——用户试过竞品，确认它在专业性能、成本上还是更有优势。

成本与使用量：市场分层已经很明显

开源与闭源模型对比：

闭源模型：聚在高成本、高使用量的象限，接的基本是高价值任务。
开源模型：主要落在低成本、高使用量的区域，跑的是量大、对成本敏感的任务。

成本-使用量四象限分布：

高级工作负载（高成本、高使用）：技术、科学类任务，用户愿意为复杂推理（比如系统架构设计）支付溢价。
大众市场驱动（低成本、高使用）：编程、角色扮演，开源模型靠成本优势占主导，用户参与度跟专业任务不相上下。
专业领域专家（高成本、低使用）：金融、健康、法律，需求小众、风险又高，对准确性的要求极高。
小众实用工具（低成本、低使用）：翻译、trivia 这类，需求早就高度商品化了，替代方案遍地都是。

市场定价与用户行为特征：

需求弹性低：往宏观看，价格涨跌对使用量影响不大；往微观看，企业用户愿意为关键任务花大价钱（GPT-4、Claude 3.7 Sonnet 这类），开发者和业余用户则对成本很敏感。
杰文斯悖论迹象：Gemini 2.0 Flash、DeepSeek V3 这些低成本模型因为效率上去了，被广泛集成到更多任务里，结果总Token消耗量反而暴涨。
模型分层竞争：市场分出四类原型——高端领导者（Claude系列）、高效巨头（Gemini Flash、DeepSeek V3）、长尾模型（Qwen 2-7B）、高级专家（GPT-5 Pro），拼的还是差异化（延迟、上下文长度、可靠性）。