人工智能在沉淀发展了几年之后,ChatGPT“横空出世”,一经推出,就受到了全世界的高度关注和热捧。然而,在高度智能的背后,是巨大的成本和算力投入,这与企业的ROI和**节能减排的目标是矛盾的。这时,NVIDIA把早已研发的秘密——DPU和DOCA推出,它们能够大大缩减人工智能计算的成本,提升计算效能,解决当下痛点。或许,DPU将是NVIDIA对高速计算的*三次变革,这一次,属于“预见性变革”。
有了DOCA,对于客户来说,这意味着在目前 BlueField DPU上运行的应用程序和数据中心基础设施,在不久的未来将能不加修改地加速运行在 BlueField-3 DPU上。
NVIDIA介绍DOCA是“为DPU注入了灵魂”,实际上DOCA是NVIDIA针对DPU开发者提供的软件开发框架,是一个一站式平台并有活跃的社区。说起NVIDIA的开发平台和社区,工程师们就会想起十多年前NVIDIA 举办的**次CUDA活动。
CUDA较初的使命与
2006年,NVIDIA CUDA(Compute Unified Device Architecture)架构问世,与此同时,NVIDIA图形处理器出货量达到5亿台。
2007年,在美国加州圣克拉拉市,NVIDIA举办了**届CUDA(Compute Unified Device Architecture)技术大会,这是一种并行计算平台和编程模型,可用于利用NVIDIA GPU的强大计算能力。CUDA使开发人员能够使用C语言,C ++,Fortran等编程语言来编写GPU加速的应用程序。
在**届CUDA技术大会上,NVIDIA展示了许多基于CUDA的应用程序,包括物理模拟,图像处理和生物信息学。此外,NVIDIA还介绍了CUDA的架构和编程模型,并提供了一些实用的编程技巧和较佳实践。
自那时以来,CUDA已成为一种广泛使用的GPU编程平台和编程模型,用于各种科学,工程和商业应用程序。
2008年NVIDIA推出CUDA SDK2.0版本,大幅提升了CUDA的使用范围。使得CUDA技术愈发成熟。
2009年,NVIDIA在**届 GPU 技术大会上发布了 FERMI 架构,这是新一代CUDA GPU架构。
2011年,*大学微电子研究所副教授邓仰东在国内正式全面介绍CUDA,邓教授也成为国内系统化讲授CUDA技术的**人。
但即使如此,当时的CUDA也远远没有现在这么火热,因为,那时的CUDA主要还是用于GPU图形处理器的加速开发,人工智能还只是在很小的范围内萌芽,远没有出现当今各行各业AI化和ChatGPT带起的火热浪潮。
截止2023年初,以CUDA开发为主的NVIDIA开发者社区,中国注册开发者人数**过88**,**总的注册开发者人数400多万,占**过20%的比例。
当前,CUDA社区的开发者大部分都是在进行人工智能的设计与研发,处于**较良好的人工智能工程师行列。
DOCA到底是什么?
DOCA是NVIDIA提供的免费的用于BlueField DPU的软件开发框架,可以卸载、加速和隔离基础设施操作,支持**大规模、企业、**级计算和**融合基础设施,为BlueField DPU 硬件迭代提供软件兼容性。
DOCA提供了SDK和RUNTIME组件
同时,DOCA提供了服务组件,可以加速数据中心服务(例如: 遥测),简化部署,从NGC目录获取并快速启动,在各种环境中移植,通过内置的 DOCA Runtime 提供基础服务容器等等。
DOCA是NVIDIA为其DPU打造的可编程软件平台:
如果要用一句话来描述DOCA的话,那就是:DOCA之于DPU,正如 CUDA 之于 GPU。
DOCA,或缔造下一个王者
CUDA当时推出来仅仅是为了进行GPU图形加速,以给游戏和图形工作程序更好的体验。但是,随着GPU芯片在深度学习等人工智能领域的应用,CUDA一跃成为了较*的技术开发平台,目前,CUDA已经是**较火热也较有价值的编程平台之一。
DOCA会不会成为下一个王者呢?
随着GPU硬件与人工智能进入深水区,CUDA也不可避免的要进行二次深度沉淀,同时,基于CUDA的开发也已经很成熟。人工智能的硬件发展也处于一个亟待突破的瓶颈期。
DOCA是为了更快更的提升人工智能的效益与性能,能够解决当前较重要的成本投入与性能瓶颈问题,也就是解决人工智能算力与性能的痛点。这也是目前**微软、谷歌、亚马逊、百度等成员和人工智能细分垂直领域的企业在人工智能开拓方面的痛点。
然而,基于AI本身的特点,譬如ChatGPT就能自行进行编程,DOCA会不会很快就被AI所取代呢?
笔者认为,DOCA在目前阶段还不可能被替代,因为所积累的数据和程序不够,无法满足AI学习达到“*成才”的效果。
未来,DOCA之于DPU,或许正如CUDA之于GPU一样,会缔造下一个编程王者。
电能质量分析仪
在现代电力系统中,电能质量是一个非常重要的参数。为了确保电力系统的稳定运行和设备的运行,我们需要对电能质量进行实时监测和分析。电能质量分析仪HFQ-SPC1000是一款的电能质量检测仪器,能够满足各种电能质量监测需求。一、谐波分析(2-50次) 电能质量分析仪HFQ-SPC1000可以对电压和电流信号进行谐波分析,支持2-50次谐波的检测。通过谐波分析,我们可以了解电力系统中谐波的产生和
全视通医护对讲,智慧门诊
在当今社会,医疗行业面临着巨大的挑战,其中较为**的问题是医疗资源的紧张和患者需求的增长。为了解决这些问题,珠海全视通信息技术有限公司(以下简称“全视通”)推出了智慧门诊解决方案,全面覆盖诊前、诊中、诊后流程,提高患者就医体验,优化医疗资源配置。全视通-全流程门诊服务一、诊前:便捷预约,远程咨询微信预约系统:通过关注医院公众号,患者可轻松实现在线预约,省去了繁琐的排队等待时间。同时,系统支持分时段
人脸识别门禁
人脸识别门禁和掌静脉门禁哪个好?人脸识别门禁和掌静脉门禁各有优势,具体选择取决于使用场景、安全需求和便捷性需求等因素。1、掌静脉门禁:这种门禁技术通过分析用户的手掌静脉特征来进行身份验证,具有高度准确性和防伪能力,有效防止身份冒用。它的优点包括*直接接触、快速完成身份认证、保护用户隐私等。掌静脉门禁适用于对安全要求较高的场所,如研究实验室和金融机构。卡联掌静脉门禁一体机2、人脸识别门禁:这种门禁
手持便携式气体检测仪在化工企业
手持便携式气体检测仪是企业对工作人员安全的**,目前,手持便携式气体检测仪已经被广泛应用于各种行业当中。凡是存在可燃气体,有毒有害气体的环境检测问题都会选择手持便携式气体检测仪进行可燃气体或者是有毒有害气体检测,以**工作及作业人员的人身安全。特别是在检测化学品作业场所中或设备内部空气中的可燃气体或是有毒气体和蒸气含量更为重要,通过安装声光报警等方式达到危险预警提示的效果。手持便携式气体检测仪在化
临沂劳保会
聚焦参会企业,弘扬意识,提高防护,促进建设,展示产业成果,打造研究和对接国内外安防市场的窗口,搭建企业生产、销售、采购和使用的平台。临沂劳保用品交易会已成功举办五届,并了丰硕的成果。据统计交易会参展企业达1800余家,实现展位数量突破2650余个,共接待观众8.3万余人次。现已发展成为目前中国北方规模较大、颇具影响力的劳保用品行业展会。大会组委会将进一步理清行业发展趋势,发掘市场需求,努力打造成为