360gpt2-o1 - 360 推出国产自研 AI 大模型,多项评测优于GPT-4o
发布于 2024-12-14 · 360gpt2-o1 是 360 自研的 AI 大模型,在推理能力上有显著提升,特别是在数学和逻辑推理任务上表现出色。模型通过合成数据优化、模型后训练和“慢思考”范式实现了技术突破,在多项权威评测中取得了优异成绩。
360gpt2-o1是什么
360gpt2-o1是360自研的AI大模型,推理能力明显上了一个台阶,数学和逻辑推理任务尤其拿手。靠合成数据优化、模型后训练和“慢思考”范式,这套打法把评测分数拉得很高。在基础数学评测(如MATH、高考数学)和权威数学竞赛(包括AIME24、AMC23)里,360gpt2-o1超越前代模型360gpt2-pro,也优于 GPT-4o 模型。在数学竞赛评测中,360gpt2-o1超过了阿里巴巴最新开源的o1系列模型 QWQ-32B-preview。
360gpt2-o1的主要功能
- 推理能力提升:360gpt2-o1做数学和逻辑推理任务的表现在线,推理能力的提升看得见。
- 合成数据优化:指令合成、质量/多样性筛选几招一起用,补上了高质量数学与逻辑推理数据稀缺的短板,训练数据集有效扩容。
- 模型后训练:分两阶段训练,先让小模型生成多样化的推理路径,再上大模型做RFT训练和强化学习训练,推理能力和反思纠错能力一起提。
- “慢思考”范式:用蒙特卡洛树搜索去探索多样的解法,引入LLM做错误验证和纠错,像人一样一步步推理、回头反思,最后形成带反思、验证、纠错和回溯的长思维链。
360gpt2-o1的技术原理
- 数据合成与筛选:360gpt2-o1靠合成数据优化来生成并筛选高质量训练数据,这批数据对模型训练很关键。
- 两阶段训练策略:第一阶段小模型生成推理路径,第二阶段大模型接着练,推理的多样性保住了,准确性和深度也上来了。
- 蒙特卡洛树搜索与LLM结合:蒙特卡洛树搜索帮模型探索多种可能的解法,LLM的加入让模型有了错误验证和纠错的本事,鲁棒性更强。
如何使用360gpt2-o1
- 访问360智脑:目前360gpt2-o1 已上线360智脑API开放平台。
- 体验地址:https://ai.360.com/playground/?model=360gpt2-o1?src=weixinmp
360gpt2-o1的应用场景
- 数学问题解决:360gpt2-o1在基础数学评测(如MATH、高考数学)和权威数学竞赛(包括AIME24、AMC23)里成绩都很能打,解数学题是它的强项。
- 逻辑推理:借“慢思考”技术模拟人逐步推理和反思的过程,复杂逻辑问题解得动。
- 编程问题:数学、编程这些领域的成绩接近甚至超过o1,编程问题的解决上360gpt2-o1也能搭把手。
- 复杂问题解决:需要深层逻辑推理的复杂问题360gpt2-o1能处理,自我反思与纠错的功夫也在。
- 教育和学术:教育场景里的数学和逻辑问题可以用它,辅助教学、辅助学术研究。
- 企业决策支持:靠逻辑推理和数据分析,360gpt2-o1能在企业复杂决策时提供逻辑层面的支撑。






0 条评论
暂无评论,来抢沙发。