第四百一十四章 算力调度 (第1/3页)

    苏念念出门没多久，韩路一又把发来的资料仔细看了一遍，随后给刘彧拨了个内线电话。

    “帮我问一下，江松然现在在不在。”

    几分钟后，刘彧回了过来：“韩总，江松然总在办公室，要我让他过来吗？”

    “不用，我们过去找他。”

    韩路一说完便起身出门。

    他眼下关心的是算力的实时情况，并没有让江松然提前准备；去江松然那边调数据更方便，真把人叫过来汇报反而耽误时间。

    到了江松然办公室门口，江松然已经等在那里。

    “韩总。”

    “走，进去聊。”韩路一说完率先推门进去，也没落座，直接问，“你从京城回来后一直忙算力的事，现在进展如何？”

    江松然早猜到韩路一会问这个——这既是公司战略，也是他最近的工作重心——所以提前做了点准备。

    他走到电脑前，调出实时监控数据面板：“韩总您看，这是正在运行的推理和训练集群。”

    韩路一简单扫过，随即问出最关心的问题。

    “CJ590和龙腾2000大概能做到多少效率？”

    听到这话，江松然表情有点尴尬。

    韩总看问题真准，一问就问到现在最不好看的数据。

    “从上次跑的基准看，CJ590能到理论算力的80%，龙腾2000只有63%。”江松然说。

    只有这么低吗？

    韩路一思索起来。

    现在看，他最初设想的、用中间层来聚合国产算力联盟的方向没有错，在推理方向也已经踏出坚实的第一步——同意接入这套推理框架的国产厂家已有好几家。但问题在于，这套中间层原生适配的是当初硅明L100的底层硬件；工程团队做抽象化时已尽量做到硬件无感知，可有些底层实现没有就是没有，其他厂商的设计在接入中间层时会产生性能损失。当然，这不能说明中间层路线错了：若让各厂商自己实现，他们连跑通都还没跑通，接入中间层是省时省力的做法，只是必须接受性能损失。鱼和熊掌不可兼得。

    韩路一忽然问：“龙门半导体那边，是你带团队去适配的？”

    “是他们带人过来，在4楼实验室和我们一起做的适配。”

    韩路一挑了挑眉。他和龙门半导体的张总只谈了用优先购买权换适配合作，其余都由团队自行对接；他倒没想到，适配工作是在起源大厦里完成的。

    摊子大了，果然不可能面面俱到。

    “适配效率再往上提，还要多久？”

    江松然摇头：“我们只是紧急完成了初期适配，让这些卡尽快上线派上用场；现在再配合龙门继续提效率，性价比不高，不如让团队去对接其他厂商。”

    道理确实如此，只是这样一来，不同类型计算卡集群之间的算力差距似乎有点大。

    “可以混合调用吗？”韩路一问。

    “这是我们团队正在研究的方向，但中间还有几个技术挑战没克服。”江松然答。

    韩路一拉开椅子坐下来：“展开说说。”

    江松然愣了一下，问：“多展开？”

    韩路一说：“你就假设我是个5岁孩子，尽量把这个问题讲明白。”

    江松然心想，韩总还真会突发奇想。

    怎么突然用起了费曼方法？

    如果你不能把一个专业知识给5岁孩子讲明白，就说明你还没完全弄懂它。

    “我试试吧。”江松然说，“现在3种不同类型的推理卡，就像3种不同容量的卡车；不同的推理任务，则像要搬运的不同大小的货物。有些任务长而复杂，只能在L100上运行；有些比较简单直接，算力消耗也小，放在CJ590甚至龙腾2000上也能跑。”

    “我们现在的问题是：一个任务进来之前，甚至作为长程任务的一部分在运行中，我们都不知道它到底是简单任务还是难任务。”

    韩路一在心里摇头：江松然讲着讲着又绕回去了。

    卡车和货物的比喻，只用了一句。

    江松然还在解释：“因为不知道任务是大是

    （本章未完，请点击下一页继续阅读）

『加入书签，方便阅读』