- 大型语言模型(LLMs)在端侧设备上的部署能够提升响应速度和用户隐私保护,推动端侧AI市场快速增长。
- 存算一体技术的成熟为端侧AI大模型的商业化提供了基础,近存计算、存内处理和存内计算各有适用场景。
- NPU的应用提升了端侧AI的计算能力,异构计算架构结合先进封装技术实现高性能和能效。
- 华邦电子的CUBE技术通过3D堆叠和低功耗设计,优化了边缘AI运算的存储解决方案。
- 投资建议关注相关存储、数字和封装公司,需留意AI端侧发展不及预期的风险。
核心要点2
该投资报告主要探讨了端侧大模型在电子行业中的应用及其相关技术发展。
首先,随着大型语言模型(LLMs)的兴起,传统的云端部署方式面临网络延迟和数据安全等问题,因此将LLMs部署在端侧设备上成为趋势。
这种转变能够提升响应速度,保护用户隐私,并实现个性化体验。
预计端侧AI市场将从2022年的152亿美元增长到2032年的1436亿美元,显示出强劲的市场需求。
存算一体技术的成熟为端侧AI大模型的商业化提供了基础。
该技术通过将存储与计算融合,克服了冯·诺依曼架构的瓶颈,提升了计算能效。
主要分为近存计算、存内处理和存内计算,具体选择取决于应用需求。
NPU(神经网络处理器)在智能手机SoC中的应用提升了用户体验,但生成式AI的多样化需求对计算能力提出了更高要求。
异构计算架构的引入能够充分发挥CPU、GPU和NPU的优势,以实现最佳性能和能效。
先进封装技术是实现异构计算架构的关键,主要分为基于XY平面延伸和基于Z轴延伸的两类。
华邦电子的CUBE技术通过3D堆叠和异质键合技术,提供高带宽、低功耗的存储解决方案,适用于边缘AI计算,进一步推动了端侧AI的发展。
报告还建议关注相关企业,包括存储、数字芯片、IP和封装领域的公司。
同时,指出AI端侧发展的不及预期风险。
投资标的及推荐理由投资标的及推荐理由如下: 1. 存储领域: - 兆易创新:在存储技术方面具有创新能力,符合端侧AI对高性能存储的需求。
- 瑞芯微:专注于智能终端芯片,具备在端侧AI市场的应用潜力。
- 寒武纪:在AI芯片领域有较强的技术积累,适合与端侧AI结合。
- 国科微:提供高性能的存储解决方案,适应市场需求。
- 北京君正:致力于智能处理器的研发,能够支持端侧AI应用。
- 全志科技:在边缘计算领域有较好的市场表现,符合行业趋势。
- 炬芯科技:其产品适用于多样化的AI应用,具备市场竞争力。
2. IP领域: - 芯原股份:提供高效的IP解决方案,能够支持端侧AI的技术需求。
3. 封装领域: - 长电科技:在先进封装技术上有较强的研发能力,能够支持异构计算架构的实现。
- 通富微电:专注于高性能封装解决方案,适合端侧AI市场。
- 华天科技:在先进封装领域有丰富经验,能够满足市场需求。
- 甬矽电子:提供高效的封装技术,支持端侧AI的发展。
- 晶方科技:在封装技术上有较强的技术积累,适合与端侧AI结合。
推荐理由:随着端侧AI市场的快速增长,以上公司在存储、IP和封装技术方面的创新和应用能力,使其具备了良好的投资潜力。
特别是在存算一体技术、异构计算架构和先进封装技术的发展背景下,这些公司能够为端侧AI提供必要的技术支持和解决方案,从而提升市场竞争力和盈利能力。