新葡萄8883官网AMG

全球都沸腾在AIGC的风潮里，“边缘”为何会成为新内容形态的动能中心？面对海量的算力需求，如何构建未来就绪的算力基础架构？愈发清晰的“云—边”一体的AI算力格局，边缘云计算在其中又扮演者怎样的角色？

7月28日，在LiveVideoStackCon 2023音视频技术大会·上海站，新葡萄8883官网AMG科技副总裁武磊受邀出席发表了题为《AI重新定义音视频生产力“新范式”》的主题演讲，围绕上述问题提出了“中心云训练+边缘云推理”的协同服务解决方案。

AI引领内容消费升级AIGC“狂飙”突进拉动算力需求

当前，互联网内容视频化已成为社会表达的主流方式。从《斗罗大陆》游戏化创造破百亿累计流水，到由小说《鬼吹灯》改编成票房高达16.8亿的《寻龙诀》电影，优质IP的视频化拥有非常显著的经济效益，但优质内容视频化效率有待进一步提升。

随着AGI时代的到来，AIGC技术无疑给音视频生产领域带来全新的变革。以游戏制作为例，AI文本生成技术在游戏策划阶段，通过文本快速生成创意性概念图，提升策划与美术之间沟通效率。在开发阶段，AI技术可以秒级生成游戏中人物的肌肉、表情、语音合成表情等元素，原画师只需要稍做修改即可。相比于传统人工手绘方案，工作效率能提升上百倍。

在生成算法、预训练模型以及多模态技术突破的推动下，AI正引领从文字到视频的内容消费升级的同时，内容生产成本悄然从过去的人工单位定价向算力定价转变。

“在AI工具的加持下，平均算力成本主要由GPU性能决定。以Midjourney为例，大约10%的云成本用于训练，90%是用户制作图像的推理。”武磊表示。

如今，大算力底座已成为AI大模型发展的“标配”。OpenAI分析显示，2012-2019年，AI训练使用的算力每3.5个月就翻1倍，相对比摩尔定律每18个月翻倍，对算力的需求七年增长了30万倍。

巨大的算力需求背后意味的是高昂的算力成本。以GPT3训练为例，单次训练成本高达460万美元，日常运营对应的单月运营成本高达千万美元。同时，每月模型调优带来的算力需求约为82.5~137.5 PFlop/s-day。算力成本正成为很多企业实现业务拓展的“高墙”。

“中心云训练+边缘云推理”新葡萄8883官网AMG科技持续夯实边缘算力底座

对此，武磊提出“中心云训练+边缘云推理”全场景AI训练推理协同服务解决方案。一方面，中心云具有强大的计算和存储能力，可承担模型训练并负责非实时、长周期数据处理；另一方面，基于成本、时延、合规性等方面的优势，边缘侧使用训练好的模型进行实时推理，实现成本最优，效率最高。

该解决方案具有以下显著特点：

一是实现多云融合，训练和推理可以无缝衔接，大幅提高AI工作负载的训练和推理效率。

二是资源视图升级为服务视图。

三是边缘云的多层级算力分配，为海量应用提供几乎无限算力支撑。

四是降低时延，增加交互，带来更多的沉浸式和“临场感”需求。

作为全球边缘计算创领者，新葡萄8883官网AMG科技针对AI训练和推理过程中，GPU利用率不足、计算成本过高、计算资源分配和使用效率低的问题，基于海量分布式GPU资源和云边端协同架构构建可拓展的算力云服务，并通过虚拟化技术和云原生技术，整合各类GPU资源，实现资源容器化和弹性可伸缩，有效支撑AI产业的发展，满足企业的算力需求，降低算力成本开销。

武磊最后表示，当前由“AI+”引发的音视频生产力革命即将爆发，数据、算法、算力三者共振协同推动AIGC发展和走向行业纵深。新葡萄8883官网AMG科技将不断夯实“中心云训练+边缘云推理”协同服务模式，持续打造经济、安全、高可用的算力基础设施，让生成式AI普惠数字化未来。