比如它们需要先查找信息然后编写一个 h 脚本再绘制图表使用多个工具串联起来解决问题时模型表现得非常糟糕。而这对人类来说是非常自然的。 v ： 是的但这些操作没有被记录下来是这个意思吗？也就是说模型无法学习到这些步骤。 W： 完全正确。这些推理链条在人类解决复杂问题时非常常见我们会自然地使用一系列工具思考问题并推理下一步需要做什么。如果遇到错误我们会回过头重新考虑。很多这样的智能链条数据今天根本不存在。这是一个需要生成的数据例子。 退一步讲首先需要在数据上取得的进展是增加数据的复杂性朝前沿数据迈进。其次是增加数据的生产量捕捉更多人类在实际工作中的行为。
v ： 更多捕捉人类在工作中的实际操作？ W： 是的捕捉更多人类的合 亚美尼亚电话号码 成数据或混合数据。 利用合成数据同时让人类参与其中从而生成更高质量的数据。我们需要像对待芯片生产一样看待数据生产。 就像我们讨论芯片生产的边界确保有足够的生产能力来制造芯片。对于数据也是一样的我们需要有效的数据生产边界能够生成海量数据来支持模型训练。 最后一个经常被忽视的方面是对模型的测量确保我们能够科学地分析模型的不足之处从而精确确定需要添加哪种数据来提高模型的性能。 v ： 大科技公司相对于独立实验室在数据资源上有多大的优势呢？ W： 大公司在利用现有数据资源时面临很多监管问题。
你可以看到在生成式 之前 曾利用所有公开的照片及其标签来训练非常优秀的图像识别算法但这在欧洲遇到了许多监管问题最终变得非常麻烦。 所以如何处理这些数据优势从监管角度来看特别是在欧洲还需要进一步观察。我认为大实验室的真正优势在于它们有非常盈利的业务能够为 项目提供几乎无限的资金来源。对此我非常关注也很好奇它将如何发展。 v ： 行业中有一个问题是是否大公司在 领域投入过多。如果你听他们的财报电话会议他们会说我们的风险在于投入不足而不是投入过多。 对此你怎么看？ W： 是的没错。你可以想象一下站在这些 的角度比如 h 、k Zk或者 的位置上。