标签:公众号
NOpenAI正式开源了全新的gpt-oss系列模型,其中包括两款面向不同应用场景的AI模型:gpt-oss-120b和gpt-oss-20b。
该系列模型不仅具备强大的推理能力,还针对不同硬件环境进行了优化,进一步提升了模型的实用性与可部署性。 gpt-oss系列模型特性解析 gpt-oss-120b是一款面向高性能计算场景的AI模型,拥有高达1170亿参数,其中5.1亿为活跃参数。该模型专为单个H100 GPU进行了优化,适用于需要大规模推理能力的复杂任务,如大型语言理解、代码生成和多步骤逻辑推理。 而gpt-oss-20b则更侧重于低延迟和本地化部署需求,参数总量为210亿,活跃参数约为3.6亿。它适合在资源受限的设备上运行,例如边缘计算设备或轻量级服务器,为开发者提供高...