
近日,高性能人工智能及图像处理芯片解决方案提供商汉博半导体推出首款云端通用AI推理芯片SV100系列及基于其的通用推理加速卡VA1。量产将于今年第四季度开始。
汉博半导体于2018年12月在上海成立。瀚博A轮融资由快手、红点创投中国基金、五源资本共同领投,今年4月又获得经纬中国、中国互联网投资基金共同领投的5亿元A+轮融资,联发科也参与其中。完全的。公司主要开发针对各种深度学习推理负载优化的高性能通用加速芯片,应用场景包括计算机视觉、智能视频处理、自然语言处理等。SV102是汉博SV100系列中的首款芯片,专为基于云的人工智能中的通用推理任务而设计。
随着人工智能行业技术的不断发展,算法模型的精度、性能等关键指标在多个领域不断取得突破,算法已进入大规模应用阶段。全各行业数据中心对推理计算性能的需求快速增长,下游客户多样化的计算性能应用场景导致对AI计算加速芯片的多样化需求。
汉博创始人兼CEO军表示,除了主流GPU厂商之外,市场上几乎没有更好的解决方案。汉博SV102采用DSA架构,主要适合处理视频流信息。
对于技术路径的选择,军表示,首先,英伟达的GPU性能很强,初创公司很难在同一路径上获胜。其次,计算机视觉任务占据了AI市场的大部分,其中视频流占据了大部分。占数据流的70%,并且比例还在不断增加,适合视频信息处理的DSA架构芯片可以达到更好的信息处理效果。
视频解码特性对芯片有低延迟、高吞吐量、低能效等要求。根据汉博发布的产品性能指标,SV102峰值计算性能为200TOPS,AI服务器芯片设计生产。CTO张雷于2013年晋升为AMDFellow,其公司AI、深度学习、视频编解码、视频处理团队的部分成员设计了业界首款7nm工艺GPU。
发布会采访内容如下。
1、创始人简历在GPU行业拥有丰富的经验和背景,为什么像你们这样的团队会选择DSA来创业?
我们从2009年就开始思考如何接近NVIDIA,但由于NVIDIA是业界领先的公司,我们也在不断努力。由于软件和整体工程能力的成熟度,想要在同样的竞争中获胜非常困难。建筑学。
要击败NVIDIA,您需要架构优势。DSA架构的整个核心IP设计都是我们自己的。当我们选择第一个产品时,我们知道推理市场非常大,需要非常高质量的产品。
我们更感兴趣的是创建具有新架构的产品,这将使我们能够在性能指标上超越它们并将其销售到海外。
2目前国内存在核心短缺题,公司将如何解决这一题,是否会影响产品的量产?
核心短缺现象是全性现象,可能是产能与需求不匹配造成的,也有一种理论认为,产能因采矿等需求而有所倾斜。一些高需求产品,例如汽车电子,无法购买芯片。
汉博已经披露了今年的产能,并提前预测了明年的大部分产能,但如果剩下的产品卖得特别好,产能可能会出现题。
3最近AI行业流行大规模训练模型,你们的芯片会考虑到这一点或者针对它们进行优化吗?
因此,在云端训练时,部署单一计算芯片是绝对不可能的;必须考虑连接性、准确性和效率。
我们非常关注这个领域,我们的S102是一个推理芯片,所以还没有面对这么大的模型,但是它的计算能力足以支持大型模型。
4这款芯片的研发历时两年,研发过程中遇到了哪些困难?我们是如何克服的?
我们整个芯片的研发也花了两年多的时间。这不是我做过的最大的芯片。不要认为推理芯片比训练芯片更容易。事实上,难度并不低。在这个过程中,初创企业面临着很多困难。
我认为最重要的是关注客户需求,确保架构正确,并能够在整个模型阶段测试性能指标。
同时我们肯定会面临很多题,在这方面我们基于核心团队的专业知识打造了很多类型的芯片,也打造了20多种类型的GPU,所有GPU都是大批量的。-生产我们在所有这些领域都非常强大。
S102并不是我们第一个量产的产品,但是我们之前就有过7nm芯片,表现也非常好。芯片为我们提供了一个渠道,可以严格、完整地整理整个流程的专有技术和解决方案。现在有了这两个芯片,我们就拥有了整个设计的完整性。
5AI芯片生态系统非常重要。我想一下目前对一些框架的支持成功率是多少?
软件生态系统需要一点一点地构建,对于旗舰产品来说,需要时间构建生态系统并同时销售产品。
整体软件方面,可以看到除了AI引擎之外,还有视频CV引擎。如果你在网上测试一下,AI引擎可能跑得更快,或者视频跑得慢一点。在计算机视觉方面,我们计划优化视频引擎的所有功能,所以我们也在大力培育软件团队,未来我们的软件队伍预计将是硬件队伍的3到5倍。
我们计划稍后推出15瓦到150瓦的产品,我们的软件团队将基于基础软件的通用构建多种解决方案。
6我们的架构是DSA架构,您刚才说DSA架构在云推理方面比GPU架构表现更好,您能解释一下吗?
大家知道,与NVIDIA竞争的公司,比如Habana,都是采用DSA架构,没有一家采用GPU架构。
很难避免英伟达在同一架构下的所有专利。另一个题是如何与NVIDIA区分开来并获胜。
DSA架构也是如此。每家公司都采取不同的方法,但他们都可以在某些领域看到GPU相比的优势,尤其是在推理方面。
7除了做芯片,还有寻找商业模式的题,汉博半导体是如何思考卖芯片的?
汉博的经营风格简单务实,没有客户就不可能创造出产品。
我们的芯片花了两年时间打造,今天刚刚发布。我们最初又制作了一个芯片,但我们自己也做了很多抛光工作。当我们最终完成录制时,我们找到了一个很好的合作伙伴,快手投资了我们,并与我们密切合作。
我们相信,为了销售产品,我们需要了解客户的需求,我们为此付出了很多努力。
我们已经建立了一个非常现代化的数据中心,该数据中心的一部分利用了我之前提到的所有自适应服务器,我们将把我们自己的产品放在那里来构建整个云。
我们将积极开发软件并提供良好的客户支持。
8硬件可以迁移到什么程度?我应该只迁移硬件吗?软件可以迁移到什么程度?我只能迁移硬件吗?我需要重新编译我的软件吗?
相比云端训练,云端推理芯片的迁移成本相对较小。更重要的是,对于相同的服务器,性能是T4或A10的2到10倍。对于客户来说,TCO和总拥有成本显着降低,并且只有一小部分迁移成本是客户可以接受的。
迁移时使用编译器没有编译成本,它是自动完成的。
一、快手极速版的红点怎么不转?
1、在快手快捷版中,为了防止用户恶意刷金币,公式中设置了金币上限,当红包上的圆圈停止转动时,可以看到每日上限为30000金币。一旦达到最大金币,第二天就可以继续,赚取的金币数量每天都会刷新。
2、如果用户继续观看同一个视频或者长时间暂停,金币收入将+1+1,解决这种情况的方法是观看其他类别的视频或者关闭快手等待一段时间。尝试重新开始。如果这不起作用,请尝试重新登录。
3、如果用户使用软件或脚本刷金币,被发现,将对用户进行无限期金币惩罚,在此期间,用户将无法赚取金币通过观看。观看视频或参与其他活动。
二、快手加好友处显示红数字为啥?
如果快手添加好友时看到红色数字,这是为了更好地区分姓名,防止同名好友发生冲突。也是由数据库设置的,方便管理。这是系统默认值,无法更改。
三、华为快手极速视频限速出现红点如何解决?
您必须退出并重新输入并将其拉出,或删除它并重新安装。
今天关于快手消息小红点和快手消息里面怎样设置小红点的话题就解到这里了,希望对大家能有比较好的帮助。

