过去，生成人工智能的底层龙8国际娱乐城通常庞大而复杂，其运行基础设施的规模也不可避免，但近年来，规模更小、效率更高且参数少得多的龙8国际娱乐城越来越多。
人工智能相关技术的成熟导致了一种趋势，即从传统的集中式人工智能执行环境转向在更靠近边缘或边缘本身的地方运行人工智能。

在个人电脑、智能设备和物联网上运行人工智能的能力有望显著提高能源和成本效率，并最大限度地减少获得计算结果的延迟。
此外，大型人工智能工作负载的传统运行方式缺乏灵活性，人们对构成人工智能和 LLM 运行执行基础设施的服务器的安全性以及数据中心功耗的增加存在诸多担忧。

备受关注的解决方案是计算平台与专用 CPU 的结合，可以处理最前沿的人工智能功能和工作负载。
该解决方案基于开源，这意味着它可以通过社区的力量立即适应新的人工智能模型，并且具有高度的可定制性。
了解边缘人工智能工作负载执行如何成为现实，以及大规模人工智能执行环境面临的挑战。

本节还解释了边缘人工智能如何解决这些挑战，以及 CPU 解决方案如何做出贡献，因此如果您正在考虑使用边缘生成的人工智能，请参阅本节。