Anthropic呼吁全球AI实验室放缓开发步伐 | AI日报
Anthropic呼吁全球AI实验室放缓开发步伐,警告“递归式自我改进”风险
美国人工智能公司Anthropic当地时间周四发表博客文章,呼吁全球顶级AI实验室考虑放缓开发步伐。文章披露的内部数据显示,AI系统正以迅猛速度进步,可能很快无需人工干预即可实现“递归式自我改进”,从而对社会构成重大风险。Anthropic表示,“世界若能拥有放缓或暂时暂停前沿AI开发的选项,使社会结构和一致性研究跟上技术进步的步伐,这将是一件好事”,并提议达成全球协议及建立核查机制。

大晓机器人联合港中文发布Kairos-HomeWorld:全球首个全屋生成、个体物体全交互世界模型
6月5日,大晓机器人联合香港中文大学多媒体实验室、深圳河套学院发布最新世界模型研究成果Kairos-HomeWorld,这是全球首个实现全屋生成、个体物体全交互的世界模型统一框架。该技术突破了现有室内场景生成仅能覆盖单房间、缺乏全局一致性与可操作性的行业瓶颈,能够一键生成结构连贯、物理合理、功能完整的全屋三维场景。研究团队同步开源全球规模最大、首个专为中国家庭打造的全屋3D数据集,包含30万套中国真实住宅平面图与5000个完整带可交互家具和物体的仿真场景。
华为云发布AICS灵衢智算集群等四大新品
在2026华为云INSPIRE创想者大会上,华为公司董事、华为云CEO周跃峰发布AICS灵衢智算集群、AMS Agentic记忆存储解决方案、CCE VolcanoNext通智一体化调度及Agent运行环境AgentSphere四大新品。其中,AICS灵衢智算集群基于超大带宽灵衢网络,支持10万卡级集群规模,总算力高达200EFLOPS,Token生成时延降至10毫秒以内,千卡每秒吞吐达500万Tokens,在线服务可用性高达99.95%,打造极致效率的Token工厂。
英伟达发布Nemotron 3.5 Content Safety:可定制多模态安全模型,支持自然语言定义安全规则
英伟达推出Nemotron 3.5 Content Safety,基于Gemma 3 4B IT,提供128K上下文窗口,支持统一多模态安全评估。该模型新增自定义策略执行功能,允许企业用自然语言定义专属安全规则;THINK模式可输出可审计的逐步推理痕迹。显式训练覆盖12种语言,并借助零样本泛化至约140种语言。安全分类遵循Aegis 2.0框架,同步发布多模态、多语言安全数据集,可在8GB+ VRAM GPU上实时部署。
Nex-N2-Pro发布:基于Qwen3.5的397B MoE推理模型,性能达GPT-5.5水平
neolab推出Nex-N2-Pro推理模型,基于Qwen3.5-397B-A17B,总参数397B的MoE架构,支持262K上下文与多模态,性能达到GPT-5.5和Claude Opus 4.7级别。模型可自动调节推理深度,减少30-50%思考token且无性能折损,在Terminal Bench 2.1、GDPVal、SWE-Verified上取得SOTA,擅长智能体编码、深度搜索和工具使用。硅基流动已提供T+0支持,前两周免费使用。
英伟达发布Nemotron 3 Ultra:专为长时间运行AI智能体设计,提升推理效率降低计算成本
英伟达发布Nemotron 3 Ultra模型,专为长时间运行的AI智能体设计。该模型能够在多轮对话中保持上下文、调用工具、调用子智能体,并高效处理复杂工作流。随着多智能体协作导致模型token数量快速增长,Nemotron 3 Ultra通过优化推理流程显著提升速度并降低计算成本,使长期运行的智能体任务更加可行。
Google发布Magenta RealTime 2:开放权重的实时音乐模型,支持MIDI键盘、文本及手势演奏
Google AI for Developers宣布推出开放权重的实时音乐模型Magenta RealTime 2(MRT2)。该模型可通过MIDI键盘、实时文本提示甚至手势进行演奏。MRT2在MacBook上原生运行,延迟低于200ms,同时提供开放权重、开源推理引擎以及配套应用和插件套件。
Stanford发布“Meet OpenAI”:本地优先的设备端个人AI智能体框架
Stanford研究人员推出Meet OpenAI,一个完全在设备端运行推理、智能体、记忆与学习的开源框架。该框架将个人AI系统分解为五个可组合原语:Intelligence、Engine、Agents、Tools & Memory和Learning。与最佳云端模型的性能差距在3.2分以内,边际API成本降低约800倍。

OpenAI API新增内容审核评分:在生成响应中同步返回审核信号
OpenAI宣布,Moderation scores(内容审核评分)现已在Responses API和Completions API中可用。该功能在与生成相同的请求流程中返回审核信号,开发者可根据实际需求将其用于日志记录、路由分发、人工审核或内容拦截等场景。
Anthropic开源AI驱动漏洞发现框架,助力软件安全缺陷识别
Anthropic将其用于AI驱动漏洞发现的开源框架代码托管至GitHub。该框架借助AI技术进行自动化漏洞发现,旨在帮助开发者更高效地识别软件中的安全缺陷。
NotebookLM来源归属功能上线
NotebookLM来源归属功能正式上线。该功能可帮助用户更清晰地追溯AI生成内容的信息来源,提升内容可信度与引用透明度。
Codex推出iOS应用构建插件:支持SwiftUI预览与热重载编辑
OpenAI Developers宣布,Codex新增iOS应用构建插件(Build iOS Apps)。该插件让Codex可在应用内浏览器中查看和测试iOS应用,打开SwiftUI预览,并支持无需离开Codex即可进行热重载编辑,进一步简化了iOS应用的开发与调试流程。

苹果批准首个iMessage AI智能体“Poke”
苹果已批准AI智能体Poke接入Apple Messages for Business平台,成为首个入驻iMessage的第三方AI助手。用户可直接在Apple Messages中完成回复邮件、安排聚餐、创建提醒、网页搜索、图片生成、航班值机、追踪低价机票、生成二维码、摘要YouTube视频,甚至控制Philips Hue灯光和Sonos音箱等任务,并已接入Oura智能戒指、Outlook、Gmail、GitHub等第三方服务。Poke联合创始人透露,苹果将按用户使用量向平台方收费;价格方面,轻量操作与后台任务免费,高强度请求需付费协商确定。
OpenAI奥尔特曼提出AI三阶段理论:继聊天机器人与智能体后,下一步是“主动式AI”
当地时间6月3日,在OpenAI举办的一场企业活动上,CEO萨姆·奥尔特曼(Sam Altman)提出AI产品开发的三阶段理论:第一是以ChatGPT为代表的聊天机器人,第二是能够执行具体任务的AI智能体(如Codex),第三阶段则是能够在后台持续运行并主动为用户提供帮助的“主动式AI(Proactive AI)”。奥尔特曼表示,这是未来一年他最看好的方向。
他还指出,当前智能体阶段虽已成为“最受关注的AI产品类别”,但用户面临选择困惑——不知何时该用聊天机器人、何时用Codex或API,也难以整合上下文信息与各类插件工具。
AI短剧成第一大Token消耗场景,占比55%超软件开发两倍以上
据中文在线6月3日晚披露的机构交流数据,AI短剧与视频生成已成为国内第一大Token消耗场景,在所有Token消耗份额中占比高达55%;其次是电商与营销(如直播带货、广告营销等),占比24%;此前因Vibe Coding流行而备受关注的软件开发领域,在Claude等编程能力推进下仅占15%。AI短剧与视频生成的Token消耗量已达到软件开发的两倍以上,成为Token经济学中绝对的第一大核心消耗场景。
谷歌与瑞典AI编程公司Lovable扩大合作,云服务使用规模将扩大至原五倍
当地时间周三,谷歌与瑞典AI编程公司Lovable宣布扩大合作关系。双方未披露交易金额,但据知情人士透露,该协议将使Lovable的谷歌云服务使用规模(包括AI相关服务)扩大至原来的五倍。
Cerebras拟联合除英伟达外所有AI数据中心组件供应商,CEO称“其余厂商我们都有合作”
AI芯片企业Cerebras正计划与各类人工智能数据中心组件供应商扩大合作。CEO安德鲁·费尔德曼在旧金山举行的彭博科技大会上表示,公司正联合产业链上下游所有成员推进合作落地,部分问题依托合作厂商零部件解决,部分采用自研技术。值得注意的是,英伟达不在合作名单之列。费尔德曼称:“除了它,其余厂商我们都有合作。”
IBM与谷歌云宣布战略合作,通过结合人类专业知识与人工智能驱动的交付模式推动AI规模化落地。















