GLM-4.5V - 智谱推出的最新一代视觉推理模型

发布于 2025-08-11 · GLM-4.5V是智谱开源的最新一代视觉推理模型。模型基于106B参数规模构建,拥有12B激活能力,是目前领先的视觉语言模型(VLM)。模型在GLM-4.1V-Thinking的基础上升级而来,继承其优秀架构,结合新一代文本基座模型GLM-4.5-Air进行训练。

GLM-4.5V是什么

GLM-4.5V 是智谱新一代视觉推理模型,总参数 106B,推理时激活 12B,属于视觉语言模型(VLM)这一类。模型在GLM-4.1V-Thinking的基础上升级,架构沿用下来,再接上新一代文本基座GLM-4.5-Air进行训练。它在视觉理解和推理上的表现都不错,网页前端复刻、grounding、图寻游戏、视频理解这些场景都能直接用,多模态应用也因此有了更多可能。为了让人上手体验 GLM-4.5V 的能力,团队还开源了一款桌面助手,可以实时截屏、录屏,再交给 GLM-4.5V 来处理代码辅助、视频分析、游戏解答、文档解读等视觉任务。

GLM-4.5V

GLM-4.5V的主要功能

  • 视觉理解与推理:能读图像和视频,做物体、场景、人物关系这类的识别,也能处理更复杂的视觉推理。
  • 多模态交互:文本和视觉内容可以混在一起处理,比如按文字描述生成图像,或者反过来给图像配文字。
  • 网页前端复刻:给一张网页设计图,直接生成能用的前端代码。
  • 图寻游戏:按图搜索、按图匹配,比如在一张复杂的画面里找出某个特定目标。
  • 视频理解:能分析视频内容,抓关键信息,做视频摘要、事件检测这一类任务。
  • 跨模态生成:视觉内容能转成文字,文字也能生成画面,两个方向来回换都行。

GLM-4.5V的技术原理

  • 大规模预训练:在 106B 参数的架构上,用大量文本和视觉数据做预训练,让模型学到语言和视觉的联合表示。
  • 视觉语言融合:底层是 Transformer,文本和视觉特征在这里汇合,靠交叉注意力让两边信息互相流通。
  • 激活机制:12B 激活参数不是全程都用,推理时只挑相关的那部分唤醒,算得快一些,性能也跟得上。
  • 结构继承与优化:结构沿用 GLM-4.1V-Thinking,再配上新的文本基座 GLM-4.5-Air 一起训练,性能比前代更进一步。
  • 多模态任务适配:经过微调和优化,视觉问答、图像描述生成、视频理解这些多模态任务都能接。

GLM-4.5V的性能表现

  • General VQA:通用视觉问答这一项,GLM-4.5V 表现最好,MMBench v1.1 上拿到 88.2 分。
  • STEM:科学、技术、工程、数学这类任务上 GLM-4.5V 同样领先,MathVista 测试拿到 84.6 分。
  • Long Document OCR & Chart:长文档和图表的 OCR 测试(OCRBench)里,GLM-4.5V 得了 86.5 分。
  • Visual Grounding:视觉定位这块,GLM-4.5V 表现突出,RefCOCO+loc (val) 得分 91.3。
  • Spatial Reasoning:空间推理方面,CV-Bench 测试里 GLM-4.5V 拿到 87.3 分。
  • Coding:编程任务上,Design2Code 基准里 GLM-4.5V 得分 82.2,代码生成和理解都还稳。
  • Video Understanding:视频理解也不弱,VideoMME (w/o sub) 上 GLM-4.5V 得分 74.6。

GLM-4.5V的项目地址

  • GitHub仓库:https://github.com/zai-org/GLM-V/
  • HuggingFace模型库:https://huggingface.co/collections/zai-org/glm-45v-68999032ddf8ecf7dcdbc102
  • 技术论文:https://github.com/zai-org/GLM-V/tree/main/resources/GLM-4.5V_technical_report.pdf
  • 桌面助手应用:https://huggingface.co/spaces/zai-org/GLM-4.5V-Demo-App

如何使用GLM-4.5V

  • 注册与登录:访问 Z.ai 官网,用邮箱注册账号。注册完直接登录就行。
  • 选择模型:登录后,在模型下拉框里选 GLM-4.5V。
  • 体验功能:
    • 网页前端复刻:传一张网页设计图上去,前端代码会自动生成。
    • 视觉推理:上传图像或视频,它会做视觉理解、物体识别、场景分析。
    • 图寻游戏:把要找的目标图传上去,模型会在复杂场景里找出对应的画面。
    • 视频理解:上传视频,模型提取关键信息,给出摘要或者事件检测结果。

GLM-4.5V的API 调用价格

  • 输入:2 元/M tokens
  • 输出:6 元/M tokens
  • 响应速度:60-80 tokens/s

GLM-4.5V的应用场景

  • 网页前端复刻:上传网页设计图,模型快速生成前端代码,网页开发省事不少。
  • 视觉问答:上传图片再提问,模型看图作答,教育、智能客服这些场景都能用。
  • 图寻游戏:复杂场景里快速定位目标图像,安防监控、智能零售、游戏开发都用得上。
  • 视频理解:分析视频内容,提关键信息、生成摘要或检测事件,视频推荐、编辑、监控都能用上。
  • 图像描述生成:给上传的图像生成描述文字,视障用户能借此理解画面,社交分享时也更方便。
0

相关文章

0 条评论

后参与评论

暂无评论,来抢沙发。