AIGC宇宙 AIGC宇宙

智能实验室

广大、清华等开发EdgeAIGC,让边缘缓存命中率飙升41%,AIGC延迟与成本双降

编辑丨&2024 年,ChatGPT、Sora、Stable Diffusion 等人工智能生成内容(AIGC)工具把算力需求推上新高,全球的推理请求连年出现高增长率递增,云端往返动辄出现极高延迟。 有没有这么一种方法,在保证服务质量的同时还可以优化 AIGC 模型的计算需求呢? 有的,广州大学、清华、浪潮联合团队给出的答案是——把大模型切成「即取即用的乐高」,用 TD3 算法实时拼搭。
7/28/2025 2:39:00 PM
ScienceAI
  • 1