第二百八十章 给老板派活儿 (第3/3页)
,恨不得上去捂老赵的嘴:“不行不行,韩总,一个月肯定不行,你看看这表里多少算子呢。”
他知道韩路一技术强,在加入源智之前,韩路一也在早期的算子适配工作中做过贡献。
但他太怕韩路一对这个项目的工程量有什么误解了。
现在源智团队里用的还是一个叫“算子打靶法”的工作方法。
这个工作方法还是当时韩路一提出来的。
所谓“算子打靶法”,就是对每一个要进行适配的算子,对标英伟达的算子,用御风来转换生成适配代码,只要达到英伟达对应60%的效率就算是达标。
这个60%是从当初的80%降下来的,为的就是让推理快速上线,牺牲一部分硬件的使用效率。
但现在要做大模型的训练,60%就不够了,甚至80%都不够,得至少达到90%以上。
话是这么说,效率的提升难道是一件容易事吗?
御风生成起代码来是快,但该做的验证一点也少不了。每一个算子的每一个参数得一个个试过去,找到对应L100这个硬件设计的最优解。
如果说60%试十次能找到,80%可能得试一百次,90%可能得试一千次。
这还只是一个算子的一个参数。
所以江松然才说做适配是个苦力活。
没想到韩路一没说话,赵文渊又开口了:“韩总,一个月,您觉得行不行?”
江松然已经无语了。什么行不行,你问老板这个,当然行;一个月之后咱们拿不出东西来怎么办?
那是肯定拿不出来,能做出十个算子都超出预期了。
韩路一听完,没有直接回答,而是思考了一下。
江松然期待韩路一听进去自己说的话了,能意识到一个月是一个多么不可思议的期限。
拒绝老赵,韩总,拒绝老赵啊!
“行,我试试。”在江松然默默的祈祷中,韩路一说。
江松然垂头丧气。
老赵啊老赵,你看,老板答应了吧?咱们可怎么办啊。
韩总说他试试。
——等等,韩总说什么?
他试试?
他试试什么?
赵文渊完全没露出意外的神色,满意地点了点头。
老爷爷果然靠谱。
韩总说行就是行。
江松然心里还没回过味儿来,韩路一又开口了:“江工,算子适配的事,你带着团队只需要负责逻辑没问题就行,具体的参数留给我,我来找。”
江松然这才反应过来,老赵这是给老板派活儿呢!
“您——您——”江松然“您”了两声,没说出话来。
他想问的是,你凭什么觉得自己特别会调参啊?
但这话问出来可不太好听。
赵文渊在旁边已经替他解释了:“韩总特别会读论文。”
韩路一听完,憋着笑点了点头。
好,文渊已经找到合理的解释了。
只剩下江松然还在原地风中凌乱:我单听说韩总写了早期几个算子的实现,不知道他要写所有的算子实现啊。
而且,调参都交给他是什么意思啊?
这是一个人能干的活儿吗?
赵文渊在旁边看着江松然整个人僵住的样子,轻轻拍了拍他的肩膀。
有些事实接受起来是要花一些时间的。
韩路一看了看手机上的时间,会议快结束了,他拍了下手:“今天先到这,下一步的计划等我们把第一阶段的工作做完之后再安排。”
然后他对赵文渊说了一句:“文渊,我有个问题单独问你,一会儿来一下我办公室。”
『加入书签,方便阅读』