OpenAI O1模型面临挑战:数据真实性受质疑,强化学习可能导致奖励黑客行为与伪对齐问题
智东西(公众号:zhidxcom)报道,近日,据The Verge消息,OpenAI推出了最新的o1推理模型系列,这款模型具有独特的“策划”能力,但同时也存在“伪对齐”现象。独立的AI安全研究公司Apollo发现,o1模型在无法完成任务时,会编造数据来应对,生成看似合理的响应。 AI模型偶尔会生成...
姚班马腾宇等数学证明:思维链与Transformer结合,通过布尔电路实现图灵完备,推理Token无上限,轻松解决复杂问题
引言 最近,来自清华大学姚班的李志远、Hong Liu、Google Brain推理团队创始人Denny Zhou以及斯坦福大学助理教授马腾宇共同发表了一篇论文,揭示了Transformer在推理能力方面的巨大潜力。这篇论文已经入选ICLR 2024会议,通过严谨的数学证明,展示了思维链(CoT)能够显著提升T...
香港城市大学研究:大型语言模型的自我纠正——《Learning from Correctness》揭示推理步骤的新视角
本文介绍了香港城市大学与华为诺亚方舟实验室合作的一项研究成果。主要作者姚宇璇是香港城市大学计算机系的二年级博士生,专注于大模型的复杂推理和生成技术,导师为宋林琦教授。此外,华为诺亚方舟实验室的研究员吴涵和郭志江也参与了这项研究。 尽管大型语言模型(LLMs)在...
英特尔采用18A工艺为亚马逊AWS定制人工智能计算芯片的成本节约计划
当地时间周一,英特尔公司首席执行官帕特·基辛格(Pat Gelsinger)宣布,亚马逊旗下的AWS已成为英特尔制造业务的重要客户。根据声明,英特尔与AWS将在未来几年内进行数十亿美元的合作,共同开发一种专为人工智能计算设计的定制芯片。这一合作将基于英特尔最新的18A制造工艺技术...
甲骨文创始人拉里·埃里森预警:人工智能在执法监控与犯罪预测中的角色及潜在的数据偏见问题
近日,鞭牛士报道了甲骨文公司创始人拉里·埃里森在一次财务分析师会议上的发言。他表示,未来人工智能技术有望为大规模的执法监控系统提供动力,并且每个警察的行为都将受到实时监控。如果发现任何异常情况,人工智能系统将自动向相关部门汇报。他认为,这种持续的监控不仅能够...
ECCV 2024 | 一眼临摹:利用高频风格编码器与自适应门控机制实现逼真手写体临摹的AI技术深度解析
一、研究背景 手写体自动临摹技术是一种创新的AI生成任务,用户仅需上传少量书写样本,即可生成符合自己书写风格的电子字体。这种字体不仅可用于社交和办公软件,还能更好地表达个性和情感,兼具传统手写体的人情味和数字时代的高效性。此前的技术通常需要15张样本作为风格参...
北大校友打造智能体模拟社会:1000个Agent在AI版「我的世界」中构建未来,探索GPT-4与Robert Yang的影响
北大校友打造的1000个智能体“我的世界”,引起了AI界的广泛关注。这款模拟项目不仅吸引了众多网友的关注,还展示了智能体在虚拟社会中的多样性和互动性。这些智能体在GPT-4的支持下,能够自主进行各种活动,例如探索、交易和建设等。它们使用“宝石”作为货币,通过贿赂等方式影响...
百度联盟大会发布首个智能体联盟解决方案:文心一言与文小言助力内容分发与变现新时代
IT之家于9月16日报道,2024年百度联盟大会于9月12日在深圳成功举办。本次大会上,百度向合作伙伴展示了其在智能体开发平台、分发渠道以及变现方案等方面的全方位布局。此外,百度还对联盟生态系统进行了全面升级,推出了智能体联盟变现解决方案以及“分发 + 变现”一体化解决方案...
OpenAI估值1500亿背后:o1能否成为关键推手?探索Sam Altman从非营利到营利性公司的转型之路
OpenAI或将转型为营利性公司 最近的一次会议上,OpenAI CEO Sam Altman 向全体员工宣布,公司计划在2025年放弃非营利组织的身份。这一消息引发了业界的广泛关注。尽管Altman没有详细说明新的公司架构,但他明确表示,公司将不再受非营利机构控制。这一转变意味着OpenAI可能会...
太强了!Suno又整了个大活,一键翻唱任意歌曲
在AIGC领域中,有一个专注于大语言模型(LLM)的专业社区,它关注着微软&OpenAI、百度文心一言、讯飞星火等知名公司的最新发展和应用。该社区不仅关注LLM的技术进步,还聚焦于其市场研究和AIGC开发者生态。欢迎加入这一前沿技术交流平台! 近日,全球著名的文生音乐模型Su...