第三百三十一章 让汤圆成为普通话 (第3/3页)

我也希望汤圆协议能成为这个普通话。”

    马小飞对镜头笑道：“原来这协议这么重要，怪不得国内外大厂都要紧跟着源码的脚步发布自己的协议。谢谢韩总解惑。”

    两人休息，喝了点水。这些内容后期可以剪掉。

    休整过后，马小飞问下一个问题。

    “汤圆Chat发布之后，有一类声音一直存在，说汤圆的回答有点……怎么说呢，有点“管人”的感觉。你怎么看这个评价？”

    韩路一沉默片刻。

    他心里暗想：马小飞啊马小飞，刚才休息时怎么不提前透题？

    “我觉得——”他说到一半，又停住，“我觉得那些用户说得对。”

    马小飞挑了挑眉。

    “设计汤圆时，我们在安全边界上做了很多工作。”韩路一说，“不希望它帮人做某些事，希望它在一些话题上保持克制，最关键的是，希望它不给出错误信息——这很难，但这是我们的出发点。”

    “那么，”马小飞问道，“你为什么选择这样的设计理念呢？”

    “因为我觉得现在业界的主流方式是错的。”韩路一说。

    马小飞暗地里给韩路一竖了个大拇指。

    节目效果这不就出来了吗？

    他问：“能详细说说吗？”

    “你知道现在大多数大模型是怎么训练出来的吗？”韩路一问道。

    马小飞摇头，摆出认真听讲的表情。

    “现在业内主流的训练方式叫人类反馈强化学习。”韩路一说，“简单说，就是让真人给模型回答打分，模型从分数里学习什么叫好回答。”

    “听起来挺合理的。”马小飞说。

    “合理，但有一个问题。”韩路一说，“人类打分时很难避免一个倾向——AI说了你爱听的答案，你会给高分；说了你不爱听的，哪怕它是对的，你也可能给低分。”

    “就是……喜欢被夸的意思？”

    韩路一说：“确切说，是喜欢被认同。每个人都有这种追求，但和人相处时很难得到百分之百的认同；AI不一样，它可以每次都认同你，只要你给它高分。所以模型从反馈里学到了什么？它学到：顺着用户说，用户就满意。时间一长，它就变成特别会说好话的模型。甚至你问它一个问题，它都要先夸你问得好，再给你一个你想要的答案。”

    “哈哈，这个我见过。无论我问什么，AI都会先跟我说：“真是有力的洞见”“能问出这个问题，说明你已经走在对的路上了”。”

    说笑完，马小飞若有所思地点头：“所以有些时候，它不是在帮你，而是在哄你。”

    “对。”韩路一说，“这种训练方式下，模型学会的不是怎么给出正确答案，而是怎么让你觉得它给了正确答案。这是两件完全不同的事。”

    “那这个问题怎么解决？”马小飞追问。

    韩路一笑了笑：“这个问题我们也正在探索，希望下次节目能和你分享我的进展。”

    录制结束，刘一波逐一关掉设备。王子腾已坐回工作台前，专心研究刚才的素材。

    韩路一起身，活动肩膀。

    马小飞也站起来，手往椅背上一搭，松口气：“老韩，牛逼，你是真的很适合做这个。”

    “做什么？”

    “做科技布道师。”马小飞说，“那些东西我自己研究半天都云里雾里，可你一说，我是真听懂了。”

    韩路一没接话，拿起包准备走。

    “诶，老韩，一会儿一起吃个饭啊，庆祝开工。”马小飞叫道，“现在不是还在放假吗？你不用回去工作吧？”

    韩路一看表：“这次不行，下次吧，我约了人。”

    “约了人？男的女的？”马小飞警觉起来。

    “下次介绍你认识。”韩路一说完往外走，到门外又停下，看了看这间乱得有艺术感的毛坯房，看了看两个还在埋头干活的年轻人，又看了看马小飞。

    他最后说了一句：“好好干。”

    马小飞朝他挥了挥手：“放心，我不会让你的钱打水漂的。”

    韩路一走出去，门在身后带上，响了一声。

    马小飞回头，对着刘一波喊了一声：“一波，那段“嘿嘿嘿”记得剪掉啊。”

    刘一波一抬头：“额，我已经发给王哥做转场素材了。”

    “你小子是故意的吧！”

『加入书签，方便阅读』