第四百五十章 西部世界 (第3/3页)

大的问题看出来了？他还什么都没说。

    “两点您都说对了：我们最缺的就是数据。最初我们也考虑过用真实数据，但现实中能采集到的数据实在太少，而且归因难度高——一个人做了什么、因为什么做，这之间的相关性都很难建立，更别提因果性了。所以我们才想了这么个笨办法：用智能体集群生成模拟数据，再用这些模拟数据训练社会世界模型；至少能验证我们的方向对不对。”

    “智能体也用了市面上可用的各个模型，主要是给实验提供变量；不然都用同一个模型，我们担心会造成模型坍塌。”

    韩路一听完摇了摇头。用模型生成的数据来训练模型，属于左脚踩右脚螺旋上天，很难说这样训练出来的模型在现实场景中能起多大作用。

    章闻铎所说的模型坍塌，就是一个典型问题：如果下一代模型的训练资料都使用模型生成的数据，数据里隐含的偏见就会被放大，形成回音壁效应，也可以说是模型的信息茧房；于是，下一代模型的一些能力反而会偏离现实，这就是所谓的模型坍塌。

    但数据确实没办法。现实世界就是这么复杂，除非有视界来做到准确归因，不然怎么能拿到一个人行为的因果？

    不过，韩路一这次并不打算直接使用视界，把数据端上来。

    这个所谓社会世界模型究竟能用来干什么、训练出来有什么用，先不说；就算用视界拿到了数据，也不一定就能完成训练。

    这里还有一个非常值得警惕的问题：数据来源如何解释。

    之前的那些标注数据，毕竟有原始语料在；即使有人对标注的详细程度感到疑惑，韩路一得到的信息也都是从语料里推断出来的，可以解释清楚。

    但人的行为动机归因，很多时候真正的原因并没在提供的信息里；视界能看到、能写出来，这数据本身就成了问题。

    于是，韩路一没提数据源的事，转而问道：“所以，为什么选择西部小镇的背景？是因为这一类原始数据更多？总不能是因为你喜欢看《西部世界》吧？”

『加入书签，方便阅读』