标签:GPU

追赶Sora难在哪?周鸿祎回应:算力是问题,集中国内所有AI企业的算力或许是方法之一

当前,Sora的热潮席卷而来,国内的大型模型企业正面临着如何迎头赶上的挑战。据360集团创始人周鸿祎的观点,如果Sora的技术路径开放源代码,国内企业有望迅速跟进。然而,关键的难题在于算力——这可能是追赶过程中的一个显著壁垒。为解决这个问题,他建议整合国内所有AI企业的计算资源或许是一条可行之路。 鉴于Sora在视频分析中对算力的需求远超大规模模型,当前国内GPU供应受限的状况无疑加大了难度。据新京报报道,Meta已拥有50万块GPU,并计划明年增加至百万块;微软预计也将进行百万级别的GPU采购。相比之下,国内所有...

一夜涨出1个可口可乐,英伟达无愧为AI时代的领航者

英伟达,全球科技股的璀璨明星,十年前的1000美元投资如今可换得22340%的惊人回报。这家公司在AI革命中扮演关键角色,市值飙升至历史高位,超越Meta和可口可乐。尽管面临微软、Google等大客户自研AI芯片的挑战,以及新秀Grop的LPU芯片竞争,英伟达依然屹立不倒。其GPU需求持续旺盛,净利率高达56%,并积极与行业巨头合作,推动AI发展。英伟达的CUDA平台和广泛的开发者生态系统使其在汽车、医疗等垂直领域占据优势,短期内其市场地位难以撼动。随着AI需求的爆发式增长,英伟达将继续引领潮流,股价仍有上升空间。

史上最快大模型炸场!Groq一夜爆红,自研LPU速度碾压英伟达GPU

AI领域再次掀起波澜,硅谷新秀Groq以其史上最快大模型和自主研发的LPU芯片吸引了广泛关注。这家非马斯克旗下的公司宣布开放免费试用,其闪电般的反应速度超越了GPT-4,每秒生成近500 tok/s,令网友惊叹。值得注意的是,Groq并非开发新模型,而是运用了开源模型Mixtral 8x7B-32k和Llama 270B-4k,并借助LPU(Language Processing Units)实现惊人速度。LPU的特色在于其高效,据2024年测试,其推理性能是顶级云服务商的18倍。搭载Groq LPU的Meta Llama 2能在7分钟内生成与《哈姆雷特》同等长度的文字,比人类打字快75倍。 在...
123