前沿观察_国产GPU突飞猛进，覆盖云边算力需求主题直播月 - 威廉希尔官方网站

原厂入驻New

您现在的位置：首页>前沿观察

大模型时代，国产GPU面临哪些挑战

电子发烧友网报道（文/李弯弯）随着人工智能威廉希尔官方网站的快速发展，对GPU计算能力的需求也越来越高。国内企业也正在不断提升GPU性能，以满足日益增长的应用需求。然而，相较于国际巨头，国内GPU仍然存在差距，国产GPU在不断成长的过程中也存在诸多挑战。在大模型训练上存在差距大语言模型是基于深度学习的威廉希尔官方网站。这些模型通过在海量文本数据上的训练，学习语言的语法、语境和语义等多层次的信息，用于理解和生成自然语言文本。大语言模型是

发表于04-03 01:08 • 4663
国产GPU在AI大模型领域的应用案例一览

电子发烧友网报道（文/李弯弯）近一年多时间，随着大模型的发展，GPU在AI领域的重要性再次凸显。虽然相比英伟达等国际大厂，国产GPU起步较晚、声势较小。不过近几年，国内不少GPU厂商成长非常快，并且不断推出新品，产品也逐渐在各个领域取得应用，而且在大模型的训练和推理方面，也有所建树。国产GPU在大模型上的应用进展电子发烧友此前就统计过目前国内主要的GPU厂商，也介绍了这些厂商主要的产品及产品发布、量产进展情况。可以看到

发表于04-01 09:28 • 3787
AI算力GPU开始腾飞，背后是电源管理的持续支持

电子发烧友网报道（文/黄山明）近期，IDC出具了一份报告显示，AI PC在中国PC市场中新机的装配比例将在未来几年内快速攀升，预计2024年将迅速增长至55%，在2027年将达到85%，而今年也将成为AI PC元年。不仅是AI PC，还包括AI服务器、AI手机、AI汽车等，众多AI实际应用让算力GPU的需求大增，也在不断追求性能更高的GPU。而随着GPU性能的提升，其功耗与稳定性的难度也随之增加。这就需要电源管理在背后为其提供稳定的电力供应，让GPU提供更好的AI算力支持

发表于03-30 00:12 • 4455
盘点国产GPU在支持大模型应用方面的进展

电子发烧友网报道（文/李弯弯）目前谈到GPU，大家首先想到的应该就是英伟达了。近一年多时间来，随着大模型的发展，英伟达GPU的强大实力可谓无人不知。而相比之下，国产GPU的声势就小了许多。事实上，近些年国内也有不少GPU企业在逐步成长，虽然在大模型的训练和推理方面，与英伟达GPU差距极大，但是不可忽视的是，不少国产GPU企业也在AI的训练和推理应用上找到位置。景嘉微景嘉微是国产GPU市场的主要参与者，目前已经完成JM5、JM7和J

发表于03-29 00:27 • 6694
英伟达发布新一代H200，搭载HBM3e，推理速度是H100两倍！

电子发烧友网报道（文/李弯弯）日前，英伟达正式宣布，在目前最强AI芯片H100的基础上进行一次大升级，发布新一代H200芯片。H200拥有141GB的内存、4.8TB/秒的带宽，并将与H100相互兼容，在推理速度上几乎达到H100的两倍。H200预计将于明年二季度开始交付。此外，英伟达还透露，下一代Blackwell B100 GPU也将在2024年推出。英伟达预计在2024年推出H200和B100两款芯片。来源：英伟达官网首款搭载HBM3e 的GPU ，推理速度几乎是H100 的两倍与A100和H100相比，H200最

发表于11-15 01:15 • 3613
英伟达GH200、特斯拉Dojo超级算力集群，性能爆棚！算力之争加剧！

电子发烧友网报道（文/李弯弯）今年8月，在计算机图形学顶会SIGGRAPH 2023现场，英伟达发布了新一代GH200 Grace Hopper平台，该平台专为处理大语言模型、推荐系统、矢量数据库等全球最复杂的生成式 AI 工作负载而构建。日前，这款GH200 Grace Hopper超级芯片首次亮相MLPerf行业基准测试，在此次测试中，具有更高的内存带宽和更大的内存容量的GH200与H100 GPU相比，性能高出17%。要知道，英伟达的H100 GPU产品性能在业界已经是处于遥遥领先的水平。相比于H10

发表于09-14 09:10 • 3241