首页/陈天桥代季峰团队实现 30B 参数跑出 1T 性能,这对大模型发展意味着什么?/
共5个回答0条评论

陈天桥代季峰团队实现 30B 参数跑出 1T 性能,这对大模型发展意味着什么?

尘埃雨中泪
排序方式:被封时间
时间排序由新到旧
  • 2446 个点赞 👍

    先贴我们的网址,是在:dr.miromind.ai/

    确实模型很好用的,Deep Research出的结果可行度和完整性都很好。我现在每天搜索信息,问问题,90%都是在MiroThinker上了,Google和ChatGPT都用得很少。大家用用就知道了,现在我们pro版本都还免费,抓紧薅羊毛。

    之前因为各种原因,MiroMind都很低调很神秘,现在可以稍微说几句:

    1)MiroMind怎么来的:

    陈天桥总之前在脑科学领域花了十多亿美金,六、七年的时间,建了一个很好的脑科学的研究组织,叫TCCI。由此,他其实一直对AGI很感兴趣。22年底ChatGPT出来,他认为AGI的时代开启了,不过当时以为建个好的AGI研发组织超出了自己的财力范围,所以没做。25年初DeepSeek出来,跟梁文锋一聊,发现完全在自己财力范围内,就想做了。问梁总谁适合来做这个AGI研发组织的leader,梁总推荐了选我或者选我以前的一个实习生和下属,陈总说那我肯定要老师,所以就陈总牵头,我联合一起发起了MiroMind。

    2)MiroMind的使命和愿景:

    跟陈总第一次聊,陈总问我为什么DeepSeek会成功。我的观点是,梁文锋一个人集齐了“有钱+有理想+懂技术”三个要素,三个要素在一个人身上,沟通和管理成本极低。我说我“有理想+懂技术,不过没钱”。陈总很兴奋的表示完全赞同,说“我有钱,有AGI的理想,不过不懂技术,咱凑一起刚好齐了”。

    所以MiroMind是要打造一个国际化的顶尖AGI研发组织,在很多管理理念上会学习DeepSeek。我有至少两个之前的学生/实习生在DeepSeek工作,我印象最深的是,每次微信上跟他们约时间通话下,15分钟之内通常都会说老师可以了,聊起来也是元气满满,并且他们对身边的同事都是比较信赖的。这跟我和其他很多公司工作的朋友通话的状态形成鲜明对比,好多别的地方是下午发个消息,晚上10点充满疲惫的回电。

    我们的基本理念是要招聘最优秀最自驱的年轻人,为大家打造一个开放、机会公平、职级扁平、信息尽量透明的一个AGI研发组织。我们相信优秀的年轻人加上优秀的组织文化,加上充足的资源,好事情自然会发生。在MiroMind,我们拥抱开源、技术理想主义和长期主义。

    当然这么做的底气不是来源于没钱的代老师,而是陈总:)

    3)我们为什么从Research Agent开始切入,以及接下来会做啥:

    站在25年初的时间点,LLM Pre-training的技术曲线已经走到了scaling law的log曲线里很平坦的区域了,别的大模型公司也都在这条技术曲线上迭代了两年多,MiroMind没有优势。所以我们选择从刚兴起的Agent Modeling这条新兴的技术曲线往前走,跟别的大模型公司在同一条起跑线上或者至少没有迟太多。回过头来看,这个选择应该是非常正确的。Agent的赛道上还有很多有意思的技术问题待解决,也能enable很多高价值的应用场景。

    接下来,我们会继续在Agent领域持续深耕,同时回头去补些缺的成熟的技术曲线上的能力。

    最后,打个广告,MiroMind在全球持续招聘优秀人才,欢迎发邮件到[email protected]

    查看全文>>

    代季峰
  • 590 个点赞 👍

    这个东西非常好,不是跑分货。

    Miro Thinker用来源中低配模型,跑通了DeepResearch。

    它并不主要取决于模型的大小,而是取决于后训练的方式,Agent-Specific Post-training。

    Miro Thinker 主要特点是 极佳的搜索直觉,在第一次搜索时,往往就能找到最佳的几个网站。

    考虑到它的基础模型,模内的常识不足,训练数据过早,光靠基础模型的直觉是拉不动的。

    这显然需要对模型进行大刀阔斧的后训练。

    他有一个Scaling Law,叫做交互式Scaling。这是它的杀手锏。不同于单纯堆算力或上下文长度,它通过增加与环境(如搜索引擎、工具)的交互频率来提升性能。最多可以达到400~600次的工具调用。

    智谱豆包Deep Research,受限于 Token 成本和推理效率,会在搜索 5-10 次后强制进入“归纳阶段”。Miro Thinker 的 Scaling Law 认为:推理的质量与与环境交互的次数成正比。

    很明显,这个Scaling Law非常有效,把互联网地皮一层一层地掀起来。

    最重要的,我觉得就是保持一种直觉——模型应该考虑“我的结论是否已经充分且扎实的”,分得清楚概念之间的细微区别,比如标准版和Pro版操作有可能是不一样的,搜索到了Pro版,不代表标准版也能使用同样的操作。无论你Scaling多少次,你没有这个直觉,很多操作都是废的。

    Miro Thinker懂得在概念的细微差别里反复横跳,它那种“我的结论是否已经扎实”的自我怀疑感,是它不像个智障的关键。

    我测试了冷门游戏(KOEI系游戏)数据搜索,企业与产品(咖啡公司)的调查,某个事件(宝马Alpina)的舆情报告,冷门硬件的hard reset操作指南,OpenAI最新硬件,OpenAI的投资与算力合同。

    这些做的都很好。不过它有点不长记性,比方说有些知乎的内容,它需要登录才能搜索,他第一次不行,放弃了。然后第二次还是会去搜索。它还会去搜索哔哩哔哩的视频下面的简介。那种视频下面基本上都没有什么有用的东西。它可能不知道,B站简介里除了UP主的充电求关注,剩下的全是“见置顶评论”。

    不能解读图片和视频,是它比较大的硬伤,如果材料是图片和视频形式的,那么对它来说就是无效信息。

    如果Deep Research这个产品类型主要跟交互的Scaling有关,那么,用大模型去拉搜索结果,这个方式就有可能是错的,而是要用小模型低成本去拉高交互Scaling的量。

    查看全文>>

    Trisimo崔思莫
  • 140 个点赞 👍

    经过了漫长的数小时的测试……说说我的看法。

    典型的 Agentic Workflow 。

    首先,我用的是开启pro的模式。

    根据实测的后台日志来看,MiroMind走的很像是Agent + MCP工具流模式。经过了任务拆解/工具调用/闭环迭代/最终合成的一个过程,最后甚至调用了 Python (Sandbox) 来计算产能增长百分比。

    30B的模型在这里充当的只是一个操作员“30B > 1T”的本质,是用推理时的算力(让它反复思考、搜索10多次)去换取模型训练时的参数。

    这种模式的优缺点极其两极分化。

    很慢但相对比较可靠,我捏着鼻子耐心看了一下完整的推理日志,几乎是在进行暴力穷举。

    搜索次数:为了回答这一个问题,它前前后后进行了我数得出来的至少12次以上的独立搜索。

    精炼过程:每一次搜索后,都伴随着一次“Reading & Reasoning”(阅读与推理)。它不是只看Snippet,而是真进去读了财报(比如MP Materials的10-K文件)。

    时间成本:确实慢。你看着它像个强迫症一样,查完A公司查B公司,查完官网查研报。

    结果质量:相当高!!!最后输出的带引用的报告,逻辑严密程度远超那些“秒回”的1T模型。

    这意味着这是一个慢思考模式:小脑子(30B)+ 强工具(MCP)+ 慢思考(推理时计算)。

    附上我问的问题供大家参考吧:

    就不添加过多图片了,这是全部的截图的截图,总之,我个人的粗浅看法就是:

    如果你是做闲聊、写诗,这种模型是一坨,因为太慢、太较真。 但如果你是做金融研报、竞品分析、法律尽调, 这种“反复搜索、精炼、再搜索”的方法,才是企业级应用真正需要的。

    查看全文>>

    jockm
  • 85 个点赞 👍

    我问的第一个问题是“美国抓走了委内瑞拉总统,这对世界局势有什么影响?”

    结果AI思考过程中反复强调这是FAKE NEWS!!!

    开始质疑中文互联网新闻
    外网新闻也不信
    受AI训练时间的限制,AI仍不相信这事儿是真的,并认为整个搜索生态都被AI污染了
    在最后一次“思考”中仍坚定认为这是fake news

    但让人意外的是,AI在总结输出阶段似乎自己接受了这个设定,并未做出FAKE NEWS的反馈,并认真给出了分析结果。

    整份总结未提及假设场景


    对于这一点我觉得还挺有意思的,思考逻辑自己有一套想法,但是输出的结果最终还是按照用户的想法输出。

    查看全文>>

    HYOMINNN00
  • 0 个点赞 👍

    查看全文>>

    夹夹更开心

1

  • 1
  • 跳至
Copyright © 2022 GreatFire.org