标签:Nvidia

每秒800个token,这颗AI芯片挑战英伟达

近年来,人工智能推理领域的竞争日益激烈,其中一家名为Groq的初创公司以其创新的芯片技术引起了关注。Groq声称,其专为矩阵乘法优化的张量流处理器在为Meta最新发布的LLaMA 3大型语言模型提供服务时,实现了每秒超过800个token的惊人速度。这一成绩如果得到验证,将对比现有云AI服务产生重大影响。 Groq的处理器架构与传统的CPU和GPU不同,它专注于简化和确定性的执行模型,以提高AI推理的性能和效率。通过避免通用处理器的开销和内存瓶颈,Groq的解决方案有望在运行大型神经网络时实现更低的延迟、功耗和成本。对于需要快...

NVIDIA CEO 称 AI 在五年内可能通过人类测试

中国站长网(ChinaZ.com)3月2日消息:Nvidia首席执行官黄仁勋在最近的讲话中透露,按照某些标准,人工智能全智能(AGI)可能在短短五年内成为现实。作为AI芯片制造领域的领头羊,Nvidia的产品被广泛应用于OpenAI的ChatGPT等创新系统。在斯坦福大学的经济论坛上,黄仁勋对实现与人类思维相媲美的机器人的时间表进行了讨论。 黄仁勋指出,实现这一目标的时间取决于具体定义。如果以通过人类测试作为标准,他认为AGI的实现指日可待:“如果我给AI设定所有你能想到的测试,我相信在五年内,AI将在这些测试中表现出色。”目前,AI已...
123