Phi-3.5 - 微软推出的新一代AI模型，mini、MoE混合和视觉模型

Phi-3.5是什么

Phi-3.5 是微软的 AI 模型系列，有 Phi-3.5-mini-instruct、Phi-3.5-MoE-instruct 和 Phi-3.5-vision-instruct 三个版本，分别面向轻量推理、混合专家和多模态任务。Phi-3.5 用 MIT 开源许可证，参数规模各不相同，上下文支持 128k，多语言处理和多轮对话都做了优化；基准测试里的成绩超过了 GPT4o、Llama 3.1、Gemini Flash 等同类模型。

Phi-3.5系列模型的性能评估和功能特色

• Phi-3.5-mini-instruct 
  • 参数量：Phi-3.5-mini-instruct 拥有大约 38.2 亿参数。
  • 设计目的：这个版本就是冲着指令遵循去的，快速推理任务合适。
  • 上下文支持：支持 128k token 的上下文长度，适合处理长文本数据。
  • 适用场景：适合在内存或计算资源受限的环境，能执行代码生成、数学问题求解和基于逻辑的推理等任务。
  • 性能：多语言和多轮对话任务都不错。RepoQA 测的是“长上下文代码理解”，这项上它超过了其他同尺寸模型，比如 Llama-3.1-8B-instruct 和 Mistral-7B-instruct。
  • 训练细节：使用 512 个 H100-80G GPU，在 10 天内训练了 3.4 万亿个 tokens。

• Phi-3.5-MoE-instruct
  • 参数量：Phi-3.5-MoE-instruct 拥有大约 419 亿参数。
  • 架构特点：混合专家架构，把几个不同类型的模型拼成一个，各管一摊任务。
  • 上下文支持：支持 128k token 的上下文长度，适合处理复杂的多语言和多任务场景。
  • 性能表现：代码、数学、多语言理解这几块都行，一些特定基准上还能压过更大的模型，RepoQA 的表现就很典型。
  • 多任务能力：在 5-shot MMLU（大规模多任务语言理解）基准测试中，在 STEM、人文学科、社会科学等多个学科的不同层次上超越了 GPT-40 mini。
  • 训练细节：使用了 512 个 H100-80G GPU，在 23 天内训练了 4.9 万亿个 tokens。

• Phi-3.5-vision-instruct
  • 参数量：Phi-3.5-vision-instruct 拥有大约 41.5 亿参数。
  • 功能集成：文本和图像处理合在一起，多模态数据也能接。
  • 适用任务：特别适用于一般图像理解、光学字符识别（OCR）、图表和表格理解以及视频摘要等任务。
  • 上下文支持：支持 128k token 的上下文长度，允许模型管理复杂的多帧视觉任务。
  • 训练数据：模型使用合成数据集和筛选后的公开数据集进行训练，重点放在高质量、推理密集的数据上。
  • 训练细节：使用了 256 个 A100-80G GPU，在 6 天内训练了 5000 亿个 tokens。

Phi-3.5的项目地址

• GitHub仓库：https://github.com/microsoft/Phi-3CookBook
• Phi-3.5-mini-instruct 模型地址：https://huggingface.co/microsoft/Phi-3.5-mini-instruct
• Phi-3.5-MoE-instruct 模型地址：https://huggingface.co/microsoft/Phi-3.5-MoE-instruct
• Phi-3.5-vision-instruct 模型地址：https://huggingface.co/microsoft/Phi-3.5-vision-instruct

如何使用Phi-3.5

• 环境准备：先把开发环境备齐：硬件够用，Python 环境、必要的库和框架都装好。
• 获取模型：访问Phi-3.5模型的Hugging Face模型库，下载模型代码。
• 安装依赖：根据模型的文档说明，安装所需的依赖库，例如Transformers库、PyTorch或TensorFlow。
• 加载模型：用 API 或代码片段把 Phi-3.5 模型加载进来。比如走 Hugging Face 的 Transformers 库，填模型名称或路径就行。
• 数据处理：准备输入数据，根据模型的要求进行预处理，如分词、编码等。
• 模型配置：根据应用场景配置模型参数，例如设置上下文长度、选择特定的任务配置等。
• 执行任务：使用模型执行所需的任务，如文本生成、问答、文本分类等。

Phi-3.5的应用场景

• Phi-3.5-mini-instruct：个头小、效率高，嵌入式和移动应用里的快速文本处理、代码生成用得上。
• Phi-3.5-MoE-instruct：专家混合模型，为数据分析和多语言文本提供深度推理，适合跨学科研究和专业领域。
• Phi-3.5-vision-instruct：多模态处理是它的长项，自动图像标注、视频监控、复杂视觉数据分析都能做。