知道你会来,所以我等你!
知道你会来,所以我等你!

  • 登录
社交账号登录

登录或注册即表示您同意本网站的 《用户协议》 《隐私政策》

中信证券:ChatGPT对GPU算力的需求测算与相关分析

    中信证券出品 / 2023-02-21 10时上传至 IT互联网 栏目

短期内GPU增量与市场规模:参考OpenAI算法,假设每日1亿用户,每人进行10条交互,每个问题的回答长度为50词,算力利用率30%,则单个大语言模型(LLM)的日常需求有望带来2.13万片A100的增量,对应市场规模2.13亿美元。假设有5家大企业推出此类LLM,则总增量为10.7片A100,对应市场规模10.7亿美元。

2023 年份 .PDF 格式 71页 页数 3.47MB 大小 浏览量 408次 下载量 立即下载

详细内容

短期服务器增量与市场规模:单个服务器包含8个GPU,因此单个LLM带来2669台服务器需 求,对应市场规模3.39亿美元,5家大企业共需要13345台,对应市场规模20亿美元。

长期市场空间:参考谷歌,若每日搜访问30亿次,需要106.74万张A100,对应13.3万台服 务器DGX A100,带来市场空间200亿美元。

技术差距:GPGPU的核心壁垒是高精度浮点计算及CUDA生态。从高精度浮点计算能力来看,国内GPU产品与国外产品的计算性能仍或有一代以上差距;在软件和生态层面与英伟达CUDA生态的差距则更为明显。

AI计算GPU领域,国内壁仞科技发布的BR100产品在FP32单精度计算性能上实现超越NVIDIA A100芯片,但是不支持FP64双精度计算;天数智芯推出的天垓100的 FP32单精度计算性能实现超越A100芯片,但是在INT8整数计算性能方面却低于A100;海光推出的DCU实现了FP64双精度浮点计算,但是其性能为A100的60%左 右,大概相当于其4年前水平。因此,从高精度浮点计算能力来看,国内GPU产品与国外产品的计算性能仍或有一代以上差距。

但是,GPU不仅在硬件上需要提升算力,软件层面对于GPU的应用和生态布局尤其重要,英伟达凭借CUDA构建生态壁垒占领全球GPU市场90%的份额。目前国内 企业多采用开源的OpenCL进行自主生态建设,但这需要大量的时间进行布局;我们对比AMD从2013年开始建设GPU生态,近10年时间后用于通用计算的ROCm开 放式软件平台才逐步有影响力,且还是在兼容CUDA的基础上。因此我们认为国内厂商在软件和生态层面与英伟达CUDA生态的差距较计算性能更为明显。

虽然目前国内产品的计算性能和软件生态实力与国际厂商还有差距,但是,国内厂商依然在奋起直追,努力实现GPGPU的国产化突破。

中信证券:ChatGPT对GPU算力的需求测算与相关分析 1 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 2 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 3 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 4 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 5 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 6 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 7 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 8 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 9 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 10 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 11 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 12 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 13 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 14 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 15 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 16 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 17 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 18 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 19 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 20 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 21 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 22 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 23 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 24 / 71
中信证券:ChatGPT对GPU算力的需求测算与相关分析 25 / 71

本文档共71页,请下载完整版阅读。

免责声明:本平台只做内容的收集及分享,内容版权归原撰写发布机构(或个人)所有,由小编通过公开合法渠道获得,如涉及侵权,请联系我们删除;如对报告内容存疑,请与撰写、发布机构联系。

当前内容需要【注册会员】才能下载 · 已有 408人下载 · 下载流程:注册/登录>下载 立即开通
收藏

相关报告


国信证券-ChatGPT用户数据:用户时长及流量分析

国信证券-ChatGPT用户数据:用户时长及流量分析

目前OpenAI将重心转移到B端GPT API接口上,希望作为插件为更多应用提供更好用户体验,而不是和客户竞争,公司战略定位会影响公司资源的倾斜;此外, 微软Azure云积极推进OpenAI B端商业化推广,提供数据连接,模型调优等各种部署,6月14日GPT降本之后,近期大量企业接入了OpenAI GPT turbo ...

  • IT互联网
  • 14页
  • 1533次
  • 446次
清华大学-清华AIGC和ChatGPT发展研究报告1.0

清华大学-清华AIGC和ChatGPT发展研究报告1.0

中文在线的元宇宙布局横跨内容IP、虚拟数字人、区块链、数字藏品、XR、垂类模型、应用场景、商业模式等。中文在线拥有的海量优质正版数据本身是庞大且高质量的语料库,能够大幅提高模型训练效果,数据体量已经超过了55TB。

  • 人工智能
  • 192页
  • 1862次
  • 640次
2023从算力、算法、数据及应用看AIGC

2023从算力、算法、数据及应用看AIGC

AIGC(AI Generated Content) 即生成式AI,多领域应用逐渐成熟。 AIGC涉及无监督和半监督学习算法,截至目前其发展历程主要分为三个阶段。

  • 人工智能
  • 37页
  • 1868次
  • 544次
广大证券-AI行业跟踪报告之九:GPT4全方位升级,AI商业化时代来临

广大证券-AI行业跟踪报告之九:GPT4全方位升级,AI商业化时代来临

GPT-4支持图片输入,多模态模型功能强大。相较于GPT-3.5仅支持文字或代码的输入和输出,GPT-4支持图片输入,并生成说明、分类和分析结果(输入图片还处于内测阶段,尚未公开真正结果)。具体来说,GPT-4能够在用户输入散布式文本和图像后,自主生成文本输出(自然语言、代码等)。

  • 人工智能
  • 41页
  • 2286次
  • 318次
埃森哲-生成式人工智能:人人可享的新时代报告(英)

埃森哲-生成式人工智能:人人可享的新时代报告(英)

ChatGPT has woken up the world to the transformative potential of artificial intelligence (AI), capturing global attention and sparking a wave of creativity rar...

  • 人工智能
  • 23页
  • 1539次
  • 322次

推荐报告


2022百度达人营销策略通案-百度

2022百度达人营销策略通案-百度

为什么选择百度做内容营销?百度是不可忽视的内容营销主阵地。度星选:撮合品牌主与达人进行内容营销合作的平台,度星选达人生态助力品牌多维链接用户。

  • IT互联网
  • 35页
  • 743次
  • 490次
小红书平台营销投放报告-微播易

小红书平台营销投放报告-微播易

本章从小红书平台的内容消费者、内容生产、内容特性、内容延申、内容趋势、内容分发机制等维度梳理小红书社区生态体系,并围绕社区+电商、社区+转化探索小红书特色种草经济下的电商突围思路。

  • IT互联网
  • 90页
  • 528次
  • 144次
中国零售业公私域运营手册暨实施指引

中国零售业公私域运营手册暨实施指引

零售电商行业发展至今,“流量” 一直是商家首要面对的问题:流量从哪里来,通过什 么样的路径转化,以及如何实现流量的长期价值?……这些问题一方面让商家固然看中当前 占据主导地位的公域流量,不断优化流量漏斗转化模型,以提升流量的转化效率,另一方面 商家也在主动寻求着新的流量经营方式,布局私域几乎已经成为所有商家的共识。

  • IT互联网
  • 115页
  • 896次
  • 137次
私域组织与人才发展白皮书

私域组织与人才发展白皮书

从2020 私域元年开始一路走到今天,作为私域经济核心载体的小程序,其月活跃账户数已经突破5亿,交易总额已连续四年保持着100%的高速增长。与此同时,在2021年,有超过1000 万家企业通过企业微信服务了5 亿活跃用户。私域不仅在快消、服饰、美妆等行业中得到快速发展,也深入渗透到餐饮、零售、本地等领域。我相信,私域已...

  • IT互联网
  • 97页
  • 2916次
  • 763次
第49次中国互联网络发展状况统计报告

第49次中国互联网络发展状况统计报告

截至2021 年12 月,我国网民使用手机上网的比例达99.7%;使用电视上网的比例为28.1%;使用台式电脑、笔记本电脑、平板电脑上网的比例分别为35.0%、33.0%和27.4%。

  • IT互联网
  • 98页
  • 626次
  • 122次

热门报告


《ChatGPT从入门到精通》

ChatGPT作为一种强大的自然语言处理模型,已经成为人工智能领域的重要研究方向之一。在不断的发展和创新中,ChatGPT已经具备了很强的自然语言处理能力,其可以实现自然语言的生成、理解和交互,为人类的生产和生活带来了巨大的便利和创新。

  • 电子书
  • 116页
  • 3188次
  • 495次
2022年度小程序互联网发展白皮书-阿拉丁

连续三年的疫情对每个人的工作生活提出考验,也推动着小程序互联网各个领域、行业深入思考与成长。在过去的一年中,我们经历过反复、挫折甚至是阶段性失败,但我们也看到广大开发者、经营者和从业者坚强乐观、挑战创新的精神。随着健康环境的逐步稳定,防控政策逐步引导社会生产生活秩序恢复,我们不由得感叹:新的征程开始了。

  • IT互联网
  • 72页
  • 2988次
  • 1287次
克劳锐:指战之“商”—2022年KOL发展年报

核心观点:万粉以上KOL规模超1300万,增速进一步放缓;游戏、美食类持续升温,剧情、生活记录类KOL粉丝关注增涨明显;小红书平台KOL粉丝涨粉实现“三级跳”,粉丝增长进一步提速;各平台商业化KOL翻倍增长,知识/文体/生活等垂类成为“新宠”;擅长种草/带货≠擅长营销,KOL声量溢价为品牌积累无形资产。

  • IT互联网
  • 31页
  • 2974次
  • 425次
2022年度视频号发展白皮书-阿拉丁

2023年1月10日,一年一度的微信开课PRO再次上线,视频号已然成为本次公开课的主场。此景让人不由得想起不久前马化在内部员工大会评价“视频号基本上是全场(全公司)的希望”,以及腾讯在2022年季度财报中屡次提及视频号“增长迅猛”。

  • IT互联网
  • 45页
  • 2945次
  • 690次
短视频行业电商品牌营销专题:男士美妆个护线上消费人群洞察-果

美妆个护行业,其中美妆产品指适用于《化妆品监管条例》的以保养为目的的护肤产品和以修饰为目的的彩妆产品;个护产品指适用于日化用品标准的身体/口腔/头发清洁护理及假发、香水/香氛等产品。男士美妆个护指在报告研究范围内,且核心使用人群为男性的产品。

  • IT互联网
  • 36页
  • 2929次
  • 970次

网址提交

感谢您的提交,我们将在2个工作日内处理。

  • 群鸟网是西安查派信息技术有限公司旗下网站,群鸟网收录热门网络运营课程,行业研究报告,合同协议文本,职场PPT模板,赚钱项目思路分享,运营教程等资源,免费阅读下载市场分析公司报告,PPT模板合同协议,思维导图,热门网址快速导航,全站关键词快速检索,下载PDF,PPT,Word等格式。