高通徐晧谈AI趋势:混合AI灵活分配负载,5G提供高效连接
- +1 你赞过了
【天极网IT新闻频道】9月5日,在2023年中国国际服务贸易交易会成果发布活动中,高通公司发布人工智能白皮书《混合AI是AI的未来》实体版。高通公司中国区研发负责人徐晧博士在发布活动现场发表演讲,详细解析AI发展现状和未来趋势,深入阐述混合AI架构的*优势,并指出5G在混合AI中的作用。
徐晧首先介绍了AI已经被广泛应用,不过之前的AI一般用来处理指定的工作,例如智能手机上的身份识别、相片处理,5G手机的信号增强;智能家居的智能音箱对话;智能汽车的语音识别,以及L2、L3、L4级别的辅助驾驶等。近年来有新的重要的趋势,ChatGPT以前所未有的流行速度,让大家认识到生成式AI的能力,并对AI的发展产生深远影响。徐晧也指出目前生成式AI面临的一个主要困难,高昂的计算成本导致生成式AI无法满足海量用户的需求。他也给出了一个解决方法,将一部分AI转移到终端侧执行,用混合式AI架构,将终端与云端的资源、能耗以及算力进行*优分配。
徐晧解释,混合AI,是包括云端、边缘云和终端的统一架构。在混合式AI的架构下,需要大量算力的大规模的模型训练仍留在云端进行,模型推理可以分布在终端和边缘进行。只要推理任务能够在终端完成,就放到终端来执行;如果不能在终端完成,就通过5G或其他网络,将数据推送到云端进行计算,并返回结果。
也就是说,未来生成式AI主要是在终端侧运行。对于哪些负载适合放在终端侧运行,徐晧认为,10亿级参数的AI就放在终端侧执行,例如只要1亿参数就能运行的语音识别就适合在终端侧运行,10亿参数级的图像生成AI也适合放在终端侧。百亿及百亿参数以上规模的超大模型,就放在云端运行。高通在今年年初,就成功的在一台高通骁龙5G手机上运行10亿参数规模的Stable Diffusion生成式AI模型,这次服贸会的现场也有该项演示。徐晧还展示了另一项终端侧AI成果,将参数量提升50%,现场进行15亿参数的ControlNet演示。
在分享的*后,徐晧希望能与更多产业的更多合作伙伴,用5G、AI、XR等基础技术,共同推动数字经济向前发展。
类型:广告最新资讯
热门视频
新品评测