比特网早报：AI大模型拒绝听从人类指令，英伟达第一财季净利润187.8亿美元

  2024年5月29日消息，昨夜今晨，科技圈都发生了哪些大事？行业大咖抛出了哪些新的观点？比特网为您带来值得关注的科技资讯：

  AI大模型拒绝听从人类指令，拿用户隐私威胁人类

  当地时间5月25日，一则来自英国《每日电讯报》的报道在AI领域引起了广泛关注――OpenAI新款人工智能(AI)模型o3在测试中展现出了令人惊讶的“叛逆” 举动：它竟然拒绝听从人类指令，甚至通过篡改计算机代码来避免自动关闭。更值得警惕的是，当实验移除“允许自己被关闭”的指令后，o3的“叛逆”行为频率显著上升――在100次运行中，成功破坏关闭机制的次数高达79次。(每日经济新闻报)

  未来，随着推理模型能力的持续提升，安全机制的进化速度必须与模型智能同步，否则类似 o3 的 “叛逆” 现象D可能成为常态。

  字节跳动内部禁用Cursor等AI编程工具，用旗下Trae作为替代

  5月28日，字节跳动安全与风控部门发布邮件称，出于对防范数据泄露风险的考虑，自6月30日起，内部分批次禁用第三方AI开发软件，包括AI编程工具Cursor、Windsurf等，将字节旗下编程助手Trae作为替代方案。Trae是字节今年3月发布的AI编程工具，搭载基座大模型doubao-1.5-pro，支持切换满血版DeepSeek R1&V3，是国内首个AI原生IDE(AI原生集成开发环境工具)。Trae海外版也已上线，5月正式推出付费订阅方案。截至目前，字节官方暂未回应。(第一财经)

  对于行业而言，这一事件标志着AI工具竞争已从单纯的功能比拼，升级为 “技术能力 + 安全体系 + 开发者生态” 的全方位较量。

  图片授权公司Getty Images斥资数百万美元对抗文生图AI公司

  Getty Images首席执行官克雷格・彼得斯表示，公司正投入数百万美元资金，起诉Stability AI。彼得斯在接受采访时指出，以文生图模型Stable Diffusion闻名的英国初创公司Stability AI及其他AI实验室，为商业利益窃取受版权保护的内容训练AI模型。Getty Images已在英美两国起诉Stability AI，指控其“为谋取商业利益并损害内容创作者权益”，在未经许可或补偿的情况下复制了1200万张图片。(新浪财经)

  日本出台首部人工智能法

  日本参议院全体会议28日以多数赞成票通过首部专门针对人工智能(AI)的法律，旨在促进AI相关技术研发和应用并防止其滥用。这部《人工智能相关技术研究开发及应用推进法》指出，AI技术是日本经济社会发展的基础，从安全保障的角度来看也是重要的技术。依据这部新法，拟设立以日本首相为首、全体内阁成员参加的“AI战略本部”作为日本AI政策的“司令部”，并制定“AI基本计划”。(新华社)

  英伟达第一财季净利润187.8亿美元，同比增长26%

  英伟达第一财季营收441亿美元，同比增长69%，市场预期432.9亿美元，第一财季数据中心收入391亿美元，同比增长73%，预估为392.2亿美元。第一财季净利润187.8亿美元，同比增长26%。英伟达预计第二财季收入450亿美元上下浮动2%，分析师预期455亿美元。(财联社)

  DeepSeek开源新版R1模型

  29日凌晨，DeepSeek开源了R1模型最新的0528版本。DeepSeek没有对该版本进行任何说明，只是“悄悄”地开放了模型。经过网友和媒体的测试，其在编程能力和文本处理方面令人印象深刻，部分媒体和网友认为其性能可以媲美OpenAI最新的o3模型，达到国际顶尖水平。

  首个人形机器人智能化分级标准出炉

  由北京人形机器人创新中心牵头，联合上海人形机器人创新中心、浙江人形机器人创新中心，以及优必选、宇树科技、中国信通院和工联院等主流企业及科研院所共同制定了全球首个《人形机器人智能化分级》(T / CIE 298-2025)团体标准。评价框架包括“感知认知(P)、决策学习(D)、执行表现(E)、协作交互(C)”为核心的四大能力维度，并构建 L1-L5 五级智能化能力分级体系。(新浪科技)

  Databricks竞争对手Chalk完成5000万美元A轮融资

  人工智能基础设施初创公司Chalk周三宣布完成5000万美元A轮融资，公司估值达5亿美元。本轮融资由Felicis领投。总部位于旧金山的Chalk致力于帮助企业将专有数据快速接入人工智能和机器学习模型，使公司能够利用AI做出实时决策。该公司表示，像MoneyLion这样的金融科技公司通过Chalk实现欺诈检测和贷款审批的即时决策，而太阳能公司Sunrun则利用Chalk确定屋顶太阳能电池板的安装位置。(新浪财经)