标签:能耗降低
新型AI芯片助力大语言模型实现能耗降低数据中心迈向可持续发展未来
整理后的 随着人工智能技术的快速发展,大语言模型(LLM)已成为科技领域的焦点。然而,这些模型的高能耗问题也日益凸显。近日,美国俄勒冈州立大学的研究团队成功开发出一款新型AI芯片,这一突破性成果有望为解决大语言模型的能源消耗问题提供新的解决方案。 该研究成果在波士顿举行的IEEE定制集成电路会议上正式发布,引起了广泛关注。这款新型芯片通过引入先进的AI技术,显著降低了数据传输过程中的能耗。研究团队表示,当前以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型,由于其庞大的参数规模,导致算力需求和能...
中泰证券:AI终端落地加速,关注AI+OS投资机会
在最新的中泰证券研究报告中,专家指出,采用大模型技术在终端设备上的应用正逐渐成为潮流。这种轻量化的模型设计能够显著降低查询成本,减少能耗,尤其在需要快速响应和极端环境条件下表现出优越性能。此外,通过在终端上处理个人数据,这种方法还能更好地保护用户隐私并实现个性化定制。随着智能硬件市场的迅速扩张,AI终端的市场份额也在稳步增长。 报告建议投资者关注“AI+OS”的创新机遇。大模型的端侧部署策略日益明朗,预示着未来越来越多的AI模型将被整合到操作系统(OS)中,成为其标准组成部分。这一变化不仅会推动...