这也是最难的部分产品设计知识对这部分工作基本没有帮助如果想做好业务分析诊断必须具备扎实 ..查看详情 > v ： 我总是很喜欢和你聊天每次都能学到很多。我们可以先聊聊你在 正在构建的东西然后深入探讨。 W： 好的在 我们正在为 构建数据铸造厂。从大的层面来看 归结为三大支柱：计算、数据和算法。 我们所看到的所有进展都来自这三个方面：计算由像 v 这样的公司推动算法的进步由像 这样的大型实验室引领而数据则由 提供。 我们的目标是生产前沿数据以推动与各大实验室合作的前沿水平进步并使每个企业和政府能够利用他们的专有数据来推动自己的前沿 发展。
关于前沿数据这个话题实际上你是如何获得 摩洛哥电话数据 这些数据的呢？ W： 人类项目之一。如果这有意义的话我认为目前唯一的智慧模型就是人类而前沿数据的生产很像是人类专家与技术和算法技术的结合以生产大量此类数据。 顺便说一句迄今为止我们所产生的所有数据互联网也是类似的。 在很多方面互联网是机器和人类合作产生大量内容和数据的成果。而未来的情况可能就像增强版的互联网：如果互联网不仅仅是一个人类娱乐设备而是一个大规模的数据生成实验会怎样呢？ v ： 你对行业现状有独特的见解你如何描述当前语言模型的状态呢？我很想谈谈市场结构但可以先从你对行业的整体看法开始。
W： 是的我认为我们可能正接近语言模型开发的第二阶段末期。第一阶段是早期几乎完全的研究阶段标志性的成果包括最初的 论文和对 的早期小规模实验直到 - 发布为止。 这是一个专注于小规模实验和算法进步的阶段。然后第二阶段大致从 - 开始到现在进入了初始扩展阶段。 - 表现得相当不错接着 及其他公司开始大规模扩展这些模型像、h、 和 等许多公司也加入了这个竞赛将模型的能力提升到极限。 过去两三年间几乎完全是执行层面的工作涉及如何使大规模训练顺利进行如何避免代码中的怪异错误如何设置更大的集群等。 接下来我认为我们将进入一个研究和执行之间更多交替的阶段各实验室将朝着不同的研究方向发展并在不同时期取得各自的突破因此这是一个激动人心的转折期。