GPT-4对算力硬件的新需求:台积电为英伟达代工的GPU订单增加

1年前 295观看

前言nH4莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

算力硬件作为AI大模型基础设施,未来将持续受益于AI技术的迭代和商业化应用。GPT4.0从语言模型走向多模态模型,将带来更为丰富的应用场景。nH4莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany


nH4莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

同时,GPT-4更大的模型对算力提出更高需求,多模态特性又增加了对其他编解码模块的需求。nH4莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

nH4莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

多模态应当具备三个基本组成部分:第一部分是图像,视频为多帧的图像;第二部分为音频;第三部分为文字。nH4莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany


因此,随着多模态的发展,在硬件算力层面,需要面向视频、音频再增加编解码能力的支持。从难度上讲,视频对于算力和IP复杂度的要求最高,其次为音频,是从GPU算力扩展到GPU周边支持性的编解码IP如VPU模块的机会。nH4莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

据媒体报道,在晶圆代工领域走在行业前列的台积电,来自英伟达的A100和H100 GPU的代工订单在增加,为国内市场设计的A800系列GPU的代工订单也在增加。
值得注意的是,英伟达A100、H100及A800系列GPU,都是针对数据中心的产品,这三款GPU的代工订单增加,大概率与ChatGPT等近期大热的产品有关。
在上月中旬的报道中,外媒就曾提到由于对ChatGPT等进行训练和提供相关的服务,全球可能再次面临GPU短缺的挑战,出现短缺的时间可能还会早于预期。
为了创建和维持ChatGPT所需的人工智能分析数据的庞大数据库,开发商OpenAI使用了10000个英伟达的GPU进行相关的训练。而为了支持实际应用,满足服务器的需求,OpenAI已使用了约2.5万个英伟达的GPU,随着需求的增加未来预计还会增加。
台积电来自英伟达的代工订单增加,可能还不是近期开始的。有外媒在上月底的报道中就提到,得益于交货时间短的AI芯片和服务器处理器订单的强劲推动,台积电5nm及4nm制程工艺的产能利用率已在回升。虽然当时并未明确提到英伟达的订单,但AI芯片和服务器处理器订单,大概率也有英伟达的产品。
↓↓↓↓点击阅读原文,查看更多新闻

nH4莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

本文链接:http://www.mocany.com/showinfo-1-21692-0.htmlGPT-4对算力硬件的新需求:台积电为英伟达代工的GPU订单增加

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com。天上从来不会掉馅饼,请大家时刻谨防诈骗