Business strategy reports, business matching and M&A in Japan

文字のサイズ

CPU 在人工智能工作负载中扮演什么角色?

75% 的领导者认为使用生成式人工智能和机器学习可提供竞争优势

过去,资助生成式人工智能的龙8国际娱乐城通常庞大而复杂,其运营基础设施也不可避免地庞大,但近年来,规模更小、效率更高、参数更少的龙8国际娱乐城越来越多。
人工智能相关技术的成熟,导致了一种趋势,即从传统的集中式人工智能执行环境转向在更靠近边缘或边缘本身的地方运行人工智能。

在个人电脑、智能设备和物联网上运行人工智能的能力有望大幅提高能源和成本效率,并最大限度地减少获得计算结果的延迟。
此外,传统的大规模人工智能工作负载的运行缺乏敏捷性,人们对构成人工智能和 LLM 运行执行基础设施的服务器的安全性以及数据中心功耗的增加存在诸多担忧。

备受关注的解决方案是计算平台与专用 CPU 的结合,可以处理最前沿的人工智能功能和工作负载。
该解决方案基于开源,这意味着它可以通过社区的力量立即适应新的人工智能模型,并且具有高度的可定制性。

报告指出了当前在边缘执行人工智能工作负载的现实情况,以及大规模人工智能执行环境所面临的挑战。
它还解释了边缘人工智能如何解决这些挑战,以及 CPU 解决方案如何做出贡献,因此,如果您正在考虑使用边缘生成的人工智能,请参阅本节。