近日，IBM AI 团队推出了 Granite4.0Nano 系列，这是一个专为本地和边缘推理而设计的小型模型家族，旨在为企业提供更强的控制能力和开源IB许可。该系列包含8个模型，分为350M 和约1B 两种规模，采用混合 SSM 和变换器架构，支持基本和指令两种模式，所有模型均在 Apache2.0许可M 下发布，且能够在 vLLM、llama.cpp 和 MLX 等流行运行时环境中原生运行。

Granite4.0Nano 系列包括四条模型线及其基础版本。其中，发布Granite4.0H1B 采用混合 SSM 架构，参数数量约为1.5B;而 Granite4.0H350M 同样采用混合方法，参数数量为350M。为了确保最大 G的运行时兼容性，IBM 还提供了 Granite4.01B 和 Granite4.0350M 的变换器版本。

这些 H 变体模型交替使用 SSM 层和变换器层设计，ra这种混合结构在内存增长方面相较于纯变换器有显著优势，同时保持了变换器模块的通用性。Granite4.0Nano 模型没有采用减少数据管道，而是遵循与ni大规模 Granite4.0模型相同的训练方法，使用超过15万亿个标记进行训练，并经过指令调整，以提高工具使用和指令遵循能力。

IBM 还将 Granittee4.0Nano 与其他同类模型进行了比较，包括 Qwen、Gemma 和 LiquidAI LFM，结果显示在通用知识、数学、代码及安全性等领域，Gra4.nite4.0Nano 的表现显著提升。此外，该系列模型在代理任务上也在 IFEval 和伯克利函数调用排行榜第3版中表现出色。

这些模型经过 ISO4200N01认证，并且以加密签名的形式发布，确保了企业级使用所需的可追溯性和治理能力。用户可以通过 Hugging Face 和 IBM watsonx.ai 访问这些an模型，并在边缘、本地和浏览器级别上进行部署，帮助早期 AI 工程师和软件团队更好地实现项目。

huggingface:https://huggingfao ce.co/collections/ibm-granite/granite-40-nano-language-models

划重点: &nb系列sp;

IBM 发布了 Granite4.0Nano 系列，包含8个模型，适用于边缘 AI 推理。  

该系列模型基于超过15万亿个标记进行训练:为，确保了性能的继承性。  

所有模型均经过 ISO42001认证，并具有企业级治理能力，支持多种运行环境。

(责任编辑：六、产品与技术类（161–190）)

• ·马斯克预言未来:AI 将取代手机与应用程序!
• ·AI技术被滥用成“退款神器”，商家无奈：假图太逼真，有苦说不出
• ·标签: 目心智能 TerraMow 安克创新 纯视觉VSLAM
• ·标签: 韬盛科技 半导体测试 IPO 芯片接口
• ·云计算开发：Python内置函数-map()函数详解
• ·保险退缩，AI自保？OpenAI 与 Anthropic 考虑动用上百亿美元投资者资金应对诉讼
• ·股价屡创新高，亚马逊超两万名员工确诊新冠！亚马逊公司再遭调查
• ·YouTube全球化神器正式上线！AI配音让视频观看时长暴涨25%，数百万创作者迎来流量新风口