无问芯穹CEO夏立雪向总书记汇报:用自主可控软件技术追平与英伟达硬件代差
一个大模型背后的算力,来自华为昇腾、天数智芯、沐曦、摩尔线程与AMD、NVIDIA等海内外不同芯片,而一名“运营者”在其中架设桥梁,让算力利用率达到97%以上,使用者感受无比“丝滑”,几乎感觉不到算力异构的体验差异。
无问芯穹,就是其中的“运营者”“架桥方”,也是4月29日在模速空间向总书记作重点汇报的企业之一。
无问芯穹首席执行官夏立雪向总书记作重点汇报。(据央视)
无问芯穹是人工智能算力基础设施企业,创始团队由清华大学电子工程系推动成立,公司到下个月将满两周岁。正是这家年轻的公司,在云端和终端同时实现了多种大模型算法在多种自主硬件上的高效协同部署运行,已服务全国20余省市的40余个异构算力集群,总的混合算力逾7000P。接入并高效运营10种以上异构算力,是无问芯穹的最擅长。
无问芯穹首席执行官夏立雪告诉记者,他主要向总书记介绍了人工智能算力基础设施核心软件技术的研发突破,以及无问芯穹的“端模型 端软件 端硬件”智能终端一体化系列产品。介绍过程中,总书记关心两个点,一是技术自主可控,二是队伍的年轻化。
受到先进制程的限制,我国的算力芯片与海外约有两三年的差距。如何减少差距?可问计于软件提升。在芯片和集群这些硬件之上,需要许多非常复杂的软件相互配合,而无问芯穹是世界上第一个把多个层次软件进行充分打通和统一的团队,实现了国产算子库、异构混训引擎等关键优化技术,其目标就在于——最大限度发挥国产芯片能力,可追平与英伟达的硬件代差。
在模速空间,夏立雪向总书记展示了上海4家企业的8款芯片,无问芯穹均已接入。目前,无问芯穹已实现自主算力的高效利用,如与徐汇区、模速空间共同打造了全国首个“算力生态超市”——模速空间算力生态平台,而浙江、四川、北京等地的算力平台也有无问芯穹的赋能。
接入并高效运营10种以上异构算力,是无问芯穹的最擅长。
在听取无问芯穹汇报时,总书记主动问起公司的成立时间和队伍平均年龄。无问芯穹创立于2023年5月,目前公司约200人。夏立雪作为首席执行官,1991年生,却还略为“汗颜”地说,自己比团队平均年龄长了两岁。他感慨,无问芯穹能力比较全面,在技术、运营、商业落地方面均有不俗表现,这完全依托于国家对人工智能产业的高度重视,以及上海尤为给力的产业政策与生态营造。
这样一位“架桥者”,既解决企业“用得起、用得好”算力的现实需求,更通过算力基础设施底层技术创新和产业实际使用,推动中国算法和硬件之间形成正向循环。“一方面,我们实现国产算力之间的互相打通,加速资源的优化调整,另一方面,我们还是上下游衔接的角色,能够将算法的最新变化,传导到硬件上。许多芯片厂商愿意与我们主动对接与适配,是因为我们能帮助提出下一代芯片的迭代策略,也会给出具体建议,如调整带宽和缓存参数等。”
无问芯穹还扮演上下游衔接的角色
“总书记的鼓励,给了我们很大信心,我们将持续加大研发投入,坚持自立自强、走自主可控的技术路线。”夏立雪说,下一步,在云侧,无问芯穹将通过持续深耕软硬件联合优化技术,将软硬件的打通与优化尽可能做到极致。而端侧,则是人工智能下一个科技创新的主战场。“比如能量效率,如何让手机电量的每一个1%干更多的事,这其中还有很大提升空间。我们会进一步采用三维堆叠、先进封装等技术,努力让芯片的能量效率再提升10倍!”
采访夏立雪时,他依旧沉浸在兴奋中,并且信心满满、干劲十足。他表示:“作为重点汇报企业,我们深刻地感受到总书记对中国人工智能产业发展的殷切期盼。同时,作为新一代人工智能科技创新创业者,我倍感责任,也倍感振奋。我们有充分的信心,在党中央的坚强领导下,以自立自强为自我要求,以应用导向为发展目标,积极开展广泛的国内国际协调发展与合作,为全球人工智能发展作出中国贡献。”
《无问芯穹CEO夏立雪向总书记汇报:用自主可控软件技术追平与英伟达硬件代差》
来源:作者:解放日报 李晔