回顾9月,AI领域频频爆出重磅消息。
9月4日,OpenAI推出了GPT-6 Astra。这份发布报告完全没有提及机器人的通用模型,却一举跃居机器人评测榜首,甚至导致一批机器人Benchmark直接作废。有人半开玩笑地说:机器人领域期盼多年的“GPT时刻”,最终来自GPT本身。
Meta Muse为每位用户配备了一台云端电脑,两周内就登顶美区App Store榜首;竞争对手Instinct在一个月内估值从25亿美元飙升至100亿美元。个人Agent掀起了新一轮烧钱获客大战,但它们能打开的网页,正在被逐一封锁。
在AI for Science领域,Claude仅用21小时就发现了一种结构类似CRISPR的新酶系统ART。AI圈为之振奋,因为AI开始进行科学发现了;生物界的反应却相对冷静,大家希望在实验室验证后再做判断。为何会出现这种反差?
当模型进化到普通人难以感知其进步时,研究者们的感受又是怎样的?本期《硅谷101》,我们邀请了三位分别深耕于Agent、机器人和AI制药领域的研究者——Pokee.ai创始人兼CEO朱哲清,破壳机器人创始人、清华大学交叉信息研究院助理教授许华哲,以及华盛顿大学计算机学院助理教授王晟,一起探讨三个核心问题:个人Agent商业化卡在何处?机器人如何被Astra这样的底层模型冲击?AI制药真正的瓶颈是什么?
以下是这次对话内容的精选:
泓君: Astra发布后,你们有没有使用过这个产品?或者说,我们来看看网上的demo,大家觉得最让你惊艳的一个demo是什么?
许华哲: 因为我是做机器人的,我们测试了很多Astra在机器人任务上的能力。我们看到的第一个点是,它的适应能力非常强。比如,给它某个机器人本体,让它去做相应的事情,它很快会发现这个机器人的运动速度较快,或者它的运动空间是怎样的。比如它撞到桌子了,它会说,这个桌子蛮高的,那我是不是应该把手抬得更高一点?这实际上是把CoT(思维链)这种反思过程的能力,转化为实际动作的能力,这是过去许多机器人模型和大模型都不具备的。
另一个能力是自我更新、自我升级。因为它具备这种反思能力,它可以反复做同一件事,每次做得更好。这个在网上大家也看到了,有人用Astra操作一个机器人机械臂去画金门大桥,第一次画得比较差,但画完后它会思考如何画得更好,经过几轮迭代,就能画得非常逼真。
我们测试了很多其他任务,比如插花,这是一个经典的机器人任务。我们给它增加了一些难度:那朵花的茎被劈开两半,有点分叉。这时它会知道,因为分叉了,所以要捏住这个分叉,把它捏窄一点,再往里塞。这样的能力确实令人惊艳。
泓君: 它其实已经理解了一些物理世界操作的规范。
许华哲: 我觉得本质上还是理解3D,因为这件事它还是从三维尺寸层面就能做出一些理解,但这种理解已经能帮助到许多非动态的物理世界操作任务了。
泓君: 我看到网上还有一些很有意思的demo,他们在用Astra生成3D视频,速度非常快,渲染效果也很好。
许华哲: 这是Astra在机器人方面另一个令人震惊的能力:给它几张图片,它可以快速生成仿真。学术圈可能称之为Real-to-Sim。过去这需要拍摄大量视频照片,需要很多人手工标定修改。但现在,你给Astra这样一个指令,它很快就能把整个实验室或办公室的环境复现出来。你拿着这样的仿真,可以去训练你的机器人,从而在仿真上获得提升。
朱哲清: 我们是做模型公司的,Astra在发布时非常强调他们在后训练、模型开发等方面的迭代能力。实际测试后,并没有那么惊艳,但它在长程任务和迭代方面,确实比之前几版模型有更稳定的提升。与原有模型相比,它能够对上下文以及之前完成的任务有更稳定的认知,不会出现太多幻觉。所以从我们的体验来看,还是比较好的。
但可能有几个问题:速度相对较慢,也可能与当前用量很高有关。同时,在更长的任务上,比如让它跑一个晚上,幻觉仍然会发生。所以它并没有从根本上解决问题,但总体来说提升了不少。
我有朋友同时测试了一些前端和设计任务。从前端的审美和认知来看,我觉得有较大提升。可能是在训练时,对设计和审美方向有特殊训练。
泓君: Bill,这一轮Astra的发布,从模型对行业的影响来看,它跟当年Opus 4.6、4.7的发布相比,从Coding能力的进化来看,它是一个大的节点吗?
朱哲清: 单纯从Coding来说,可能没有那么大的节点。从4.5到4.6,当时我们的体感是几乎一种范式式转变:原来只能依赖它做短程Coding,改几个文件,做些简单小项目;到4.6那次模型后,基本上你会感受到工具调用几乎不会出错了,它去做一些长程的Coding任务,可以自主进行。
而现在Astra只是说可以做到更长程的任务,幻觉可以降得更低,审美变得更好。但它没有做到说,能解决一个以前完全解决不了的问题。
王晟: 我觉得是一个大的节点。我们现在已经都从之前Claude等系列模型切换到GPT-6 Astra来做我们的biomedical内部任务了。我主要做AI for Science,里面核心就是AI for一些biomedical的应用。
我们用Astra有两个特别好用的地方,一个是Computer Use,一个是一些长程的任务。
Computer Use方面,我们会用Astra来操作一些生物医学领域很多年前编写的软件。这些软件在领域内默认要使用,但它们其实都非常难用,界面设计得也不好,还有很多术语,所以对跨领域的人来说,使用成本非常高。
但是Astra的Computer Use功能,可以直接根据一些简单的prompt,就操作得比较好。而且我还可以跟它学习怎么用这个软件,毕竟在生物医学领域,很多人对AI工具的接受度比较低。Astra可能把这些软件对应的网上教程、别人之前用过的用户日志、一些反馈,全部以文字形式学进去了,所以它真的理解怎么用这些软件。
另一方面就是长程任务。我们生物医学这块,任务会比较复杂,有时会持续8至24小时,Astra会做得比较好。它比其他一些模型做得慢,但挺让我放心的,说明它可能会更深思熟虑一些。
我们现在一般切换着用:白天用一些反馈比较快的模型,到了准备让模型跑一晚上的时候,就用Astra来设计一个比较长程的pipeline或prompt。这也是它在AI for Science领域里比较值得信赖的一点。
泓君: 我没有想到Computer Use这个功能居然在AI for Science领域能帮助到大家这么多。
王晟: Astra在这次发布时做了两个生物医学的demo。其中一个就是Computer Use demo,这个demo在我们圈子内出圈了,大家发现,原来可以直接用Astra来操作一个生物医学的工具。它当时操作的一个工具叫MultiQC,是一个挺常用的网页工具。我们开始用这个功能,发现它比想象的要好用很多。其实Computer Use这个功能我觉得之前的模型也具备,只是大家没有开始真的思考怎么把它融入我们科研中的pipeline里面。
泓君: Bill,你可不可以一句话解释一下,什么是Computer Use?
朱哲清: Computer Use是通过模型对视觉的理解,来决定agent下一步要在屏幕上点击哪个部分,或者输入哪些文字,来完成一系列任务。当它可以串联这么几十个动作时,就能完成一个最终人类想要达到的目的。
泓君: 就它跟API的区别是,你不用给接口,不用给密码,它直接像人一样去操作和使用电脑。
朱哲清: 就是它看到的是人类看到的屏幕,看到人类看到的UI,看到人类看到的所有视觉和可交互的界面。通过人类可以使用的电脑的输入输出设备来完成这些任务。
泓君: 我觉得Computer Use之前好像也有,为什么Astra的发布,又重新把Computer Use带火了?
朱哲清: 感觉Computer Use现在比原来又火了一波。之前大家觉得所有工具都会开API,所有工具都会有agent access(访问权限)的接口,很多APP也好,系统也好,都在做agent native(原生智能体)的setup。
但是最近,不管是Instinct也好,还是Meta Muse也好,背后其实都接了浏览器。有一个比较大的问题就是有很多第三方APP或Amazon也好,比如一些购物APP或旅行APP,它们其实不愿意开放API。
我觉得这又回到了当年Manus的情况:Manus最开始做了Browser Use(浏览器操作),后面很多别家也跟上,后来大家发现这个不是很高效。大家都回到Coding和API调用,现在好像有些东西避不开,又回到了Computer Use,所以我觉得最后有可能还是个mixture的状态。
我这边有一个比较有意思的看法,因为我们目前focus on相对比较小的一些模型,比如我们基本上现在发布的model都30B左右的模型,是可以在端侧和私有算力上进行的。比如我有一台小的AI box,或一台AI PC,它就可以跑这个模型了。
未来如果说这个Browser Use本身发生在你的机器上,而不是发生在云端,那就会改变Browser Use本身可能会给你带来的一个瓶颈。 因为现在的远程Browser Use都是通过商用机器,最多找个像Bright Data或IP代理,假装是消费者用户,去绕开IP校验。像Amazon、Expedia这些网站一般都说,如果是商用的IP,我不会让你进去。
泓君: 商家会屏蔽一些AI机器人,不希望它们接入。
朱哲清: 奢侈品网站很早以前就会都屏蔽掉。如果用的是你们家的网,就是你自己的IP,那就不会再被block了。所以这有可能成为未来一个破局的趋势,而这件事有可能会推动很多app厂商去改变它们的Browser Use机制,也就是说这个browser sandbox(浏览器沙箱)可能是在本地发生,而不是在云端发生。
泓君: 你这个观察非常有意思。最近非常火的一个toC消费级应用,就是Meta Muse,它们的定位是做一个个人的AI助手,它相当于给每个人做了一台云端的虚拟机,你的数据是存在一个在云端属于你的存储里的。根据你刚刚的理论,它其实还是商用的一个IP。它如果未来商业化的话,很有可能会被商家卡住这个IP。
朱哲清: Meta Muse从背后的虚拟机设置来说,其实跟当时的Manus很像,它也主打一个Browser Use,因为它很多使用场景跟旅行和购物有关,在这些use case之下,你没有办法通过API调用来完成这个任务,基本上都得最后靠浏览器。当时Manus其实走了一模一样的路,被全部block掉了,所以Manus到后期的时候,现在跟Genspark很像,都主打白领工作那一套。
你去看Claude Code、Claude Cowork、ChatGPT Work,最后都往白领工作效率这方面去偏移,核心原因就是因为很多东西一开始能做,但后面很快就被巨头们全部block掉了。
泓君: 比如亚马逊现在就把Meta Muse屏蔽掉了,如果有更多网站加入进来,它可能能访问的网页和能操作的东西就越少。
朱哲清: 但它不可能把你电脑上的IP屏蔽掉,那你自己也上不了亚马逊了,所以这可能会是一个破局的机会。但我怀疑这件事会来回拉扯,在C端的这个agent,目前可能还不是特别ready。因为做Browser Use,对模型的需求其实挺高的。它很难在短期内拉出一个现象级的体量。
泓君: 那你会看好Meta Muse长远的发展吗?
朱哲清: 我觉得这波消费者最后一定会land到软硬件结合的状态。我觉得Meta如果能把wearable(可穿戴设备)做很大,有可能有机会。 为什么我觉得最后要land到软硬件结合的原因,是因为云端这件事不能代表这个用户本身,这也是为什么browser把它们完全block掉的原因,因为一旦换了个云端的虚拟机,它不能验证说这个人本身就是用户本身。
我觉得用户的ID或使用agent的那个用户的identity(身份)本身会是这一波toC的一个关键。 如果商家能确认这个agent就代表这一个人去做的操作,有可能很多商家会愿意做这件事。
但是现在如果用云端的虚拟机、云端的browser,它可能没有办法验证这件事,它会觉得我的流量入口被人剥夺了。比如我有一个用户,他本来就要访问我,他现在通过agent还是访问我,那对我来说可能是OK的。但如果原本一个用户,现在搞了20个agent,这20个agent的消费能力跟原来一样,这20个agent还不停比价,不停在我这边刷流量,把我所有的流量都弄乱了,对我来说是得不偿失的。
所以我觉得软硬件结合可能会是一个机会。如果这个硬件本身属于这个用户,它就可以直接确认这个agent就是这个用户,是一个代表行为,我就会愿意把这个access开给你。
泓君: 大家在toB的工作流中会用xAI的Grok Bot吗?
朱哲清: 我自己身边用Grok Bot的人更多是在尝鲜,因为它相对比较主动一点。但是用Codex或Claude Code,其实都可以解决这些问题。真正把它接进工作流的,可能相对少一些。我自己身边好多真正在B端,比如法律、医疗,真正在那些传统企业里工作的人,现在还纠结于怎么逃出Microsoft Copilot的泥潭。 甚至不能freely使用Codex和Claude Code,就更别说要到Grok Bot这个级别了。所以我觉得整个行业现在分差非常大,走在前面的人什么都可以随便用,走在后面的人现在还在泥潭里挣扎。
泓君: 我最近跟比较前沿的模型研究员聊,听到一个很有意思的观点:他们认为现在在toC和消费级的agent上,token的使用量其实花不了多少钱。现在真正最烧钱的地方,是OpenAI、Anthropic、DeepMind这几家公司在竞争的核心领域——AI for Science。 就是那些未被解决、未被定义的科学问题,他们要去解那些数学题,或需要跑像王教授这样的一些生物实验,这非常非常烧token,而且是内部消耗量最大的一个方向。
比如,OpenAI解纳维-斯托克斯方程这个问题,它内部调用了一个更强的模型,大概用了1万个子agent,发了大约270万条信息,消耗了约1300亿输出的token。第三方按零售价给它算了一下,这部分消耗大概在2200万美元。
因为现在整个模型的进化,对普通人的感知已经不大了。但是对前沿科学家来说,他们对模型能力的提升,感知是非常大的。
朱哲清: 这里有点想问许教授和王教授。我自己主要做post training(后训练),focus on小模型多一些,因为我们想做本地私有化的模型。我们能看到的是,这个层次的模型,在我们优化之后,和frontier model的差距越来越小。
从AI for Science角度,或从robotics角度,frontier model在每一代迭代中,你们觉得会有多大的提升?
比如从Opus 4.5到4.6的区别,对比4.8到Fable之间的区别,或5.6到Astra之间的区别,这个差距可比吗?
王晟: 我的观点是,在生物医学领域,它的AI for Science能力确实有一个很大的提升。但这个提升主要来自于它的coding能力,这种一般的coding查文献、做长程任务的能力,并不是它对生物医学知识能力的提升。 有一些benchmark是专门测Biomedical knowledge知识层面的,Astra并没有提升。
我们现在实际用的时候,其实很难去使用Astra,或Opus、Fable,因为它们对生物医学的任务都会防范得越来越严,都会refuse to answer,这是非常严重的问题。 所以我们内部用的时候都是用Kimi K3或Muse Spark 1.3。当要用Astra时,都要用一些特殊的方式跟Astra说,我这不是在做危险的任务,只是设计一个benchmark等等。所以实际这种大模型的使用体验,随着能力的增强,其实是越来越差的。
还有一个点就是,刚才Bill说的很有道理,其实我也认可,就在各种已定义得很明确的AI for Science benchmark上,小模型确实可以和大模型的差距越来越小。但我个人觉得这些benchmark本身就不是定义得那么好,所以大家追赶的方向,包括大模型进步的方向,都可能不是完全正确的。
这些benchmark定义的时候,大家都会定义一个更好让AI模型去做的,比如有一个明确的生物数据集,要预测一个明确的问题,这和我们真的做的制药发现其实是gap非常大的。本质上这些现在的生物医学benchmark就是一个Kaggle这种数据科学的比赛,所以它退化成一个MLE-bench(机器学习工程基准)中machine learning的问题。那Astra这种在coding能力上的提升,就会在benchmark上有很大的进步。
许华哲: 我觉得从Robotics角度,Astra是一个飞跃式的提升。过去无论是Opus 4.5、4.6,还是到Fable的变化,都没有Astra这次给Robotics带来的变化大。因为过去的所有升级,在Robotics的测试上,几乎都没有什么太好的表现,定性上没有变化。
但Astra现在带来的变化是它整个定性有变化,很多Robotics的benchmark失效了。 像RoboDojo,大家相对认可的Robotics尤其是仿真的benchmark,Astra都成了第一名。无论它用了哪种数据,但它带来的这个能力,都是一个飞跃式的升级。
但是关于刚刚说的小模型和大模型这个问题,我倒是觉得,长期来说我们一定是需要一个小的、跟Astra能力相当的模型。原因是机器人的任务有时间要求,需要及时响应,需要有高动态任务。比如我要抖一条毛巾,这样的能力Astra是做不了的,因为它太慢了。它知道我要快动一下,但它只能写code来做,如果让它直出动作是没有办法的。在这种情况下,我们一定需要一个快决策的模型。只不过我们需要把现有的Astra的CoT,或它的reasoning能力,以及3D理解,要把它加进去。
泓君: 所以你觉得未来机器人的方向会变成,大模型去做规划,小模型负责实施控制,这样的分层架构吗?
许华哲: 分层架构大家其实一直都还是比较认同的,只不过分层的这一刀,到底切在哪? 怎么样的分层方式是大家一直有辩论的。比如原来大家普遍认为VLM(视觉语言模型)是做任务规划层,那这个任务规划层大概就是到,我跟你说我要吃西红柿炒蛋,那VLM规划的可能就是打开冰箱门,拿出什么西红柿,拿出鸡蛋等等,底下的小模型或具身模型,它会去执行打开冰箱门究竟怎么办?打鸡蛋怎么做?
但是,Astra这次它最大的一个变化是,它现在能做低层次的动作控制,相当于它给你的指令变成了把手往右伸两厘米,或把手放在冰箱门的把手上,如果没有抓住的话,它说那你再往前靠一靠……所以它相当于把这个层往下压了。
原来是大家边界很清晰的,但它现在说我能力非常强,除了慢以外,我可以往下压一点点。那底下的这个就更像是一个反射式的提线木