高通aie，高通2022年
2024年7月26日，中国国际数字娱乐产业理事会（CDEC）主办的ChinaJoy AIGC大会在ChinaJoy期间在上海举行。本次会议将从技术和应用的角度对AIGC技术进行概述，重点围绕AIGC如何助力产业升级、如何提升AIGC场景应用、如何促进人机融合等问题，共同探讨AIGC新业态和新业态。内容产业未来发展趋势。
高通技术公司副总裁兼产品、合作伙伴和技术市场全球负责人迈克·罗伯茨（Mike Roberts）在大会上发表了主题演讲。他指出，作为设备端AI的领导者，高通在AI领域的投入已超过15年，依靠强大的软硬件支持的结合，以及异构计算的优势。高通的产品和技术是边缘侧布局的领导者，支持超过25亿台AI设备的出货量，为广泛的行业和生成式AI体验提供动力，并实现我们所提倡的“智能计算的无处不在”。
演讲全文如下。
大家好。很高兴能够第四次参加ChinaJoy。我很荣幸代表高通公司与您分享我们如何为智能计算的普及做出贡献。作为设备端AI的领导者，高通在人工智能领域投入超过15年，拥有业界领先的硬件和软件解决方案，涵盖广泛的边缘设备，并在整个NPU上提供卓越的异构计算。配备打印功能。领先的CPU 和GPU、软件优化和能效。此外，我们还拥有无与伦比的边缘侧布局和全球数十亿用户设备，涵盖智能手机、PC、汽车、XR、边缘网络设备等。同时，我们正与微软、谷歌、百川、腾讯、字节跳动等众多生态合作伙伴合作，推动AI技术的创新和应用。
除了成为必不可少的个人助理之外，生成式人工智能还在许多领域展现出巨大的商业价值。预计每年的经济影响将在2.6万亿至4.4万亿美元之间，相当于2023年上海GDP的约五倍。然而，推动生成式人工智能大规模发展还面临诸多挑战。以成本为例，基于人工智能的生成搜索的单次推理成本约为传统网络搜索的10倍。生成式人工智能应用仍处于起步阶段，图像和视频创建、文本摘要和会话聊天机器人等新应用不断涌现。考虑到未来将有数十亿用户需要使用AI推理，整体需求将是巨大的。从2024 年到2028 年，与生成式AI 相关的代币生成量预计将增加150 倍，云推理的需求将超过培训的需求。如果维持目前的人工智能处理方法，到2030 年，人工智能可能会消耗全球3.5% 的电力，这足以为上海这样的大城市供电约35 年。
现在，为了实现大规模，人工智能处理的重点将转移到边缘，最终目标是使云和边缘设备能够协同工作来处理工作负载。通过高性能连接实现更强大、更高效、更优化的人工智能。如果将20% 的人工智能工作负载转移到端点，预计到2028 年将节省160 亿美元的计算资源成本。
我们来看看设备端和云端的AI处理。终端侧主要支持百亿参数级别的大规模模型。设备端AI处理有很多好处，不仅可以提高性能和效率，还可以在确保隐私和安全的同时提供即时性、低延迟、高可靠性和个性化的用户体验。另一方面，中央云可以支持具有超过1000 亿级操作参数的超大型模型。在中央云上，用户可以轻松开发、部署和训练模型，以实现资源聚合和最终性能。
基于此，面对各个垂直领域对生成式AI用例不断增长的需求，高通针对计算性能推出了系统级解决方案。提供系统级解决方案的理念已融入高通的DNA，也是我们作为一家公司如何应对诸多挑战的关键。该解决方案包括专门针对生成式人工智能而新建的神经网络处理器（NPU），并将NPU与CPU和GPU集成在一起。例如，在PC端推出的高通Oryon CPU，未来将扩展到手机、汽车等更多设备品类。此外，我们投入较多的Qualcomm Adreno GPU也将推出。从事研发工作超过10年。
我们根据不同的计算需求策略性地使用合适的处理器来提高系统性能并实现异构计算。异构计算可实现最佳的应用程序性能、能源效率和电池寿命。目前，终端侧人工智能广泛应用于各种消费终端和行业，例如边缘网络设备、汽车、用于制造车辆的工业机器人等。在这里，我想重点关注两种主要设备类型：智能手机和个人电脑。
我们最新的第三代骁龙8旗舰移动平台使我们的许多手机制造商合作伙伴能够推出丰富的设备端AI体验。上个月，我们的微软合作伙伴和其他领先的PC 制造商推出了20 多款搭载Snapdragon X Elite 和Snapdragon X Plus 平台的全新Windows 11 AI+ PC。这些设备实现了实时翻译、实时翻译以及富含AI的AI功能。照片编辑、文本摘要、写作帮助等等。
首先，让我们从智能手机的角度讨论这些设备上的人工智能用例。我们与合作伙伴合作，为旗舰智能手机用户带来生成式AI能力，并将Snapdragon的AI能力直接带给消费者。三星Galaxy S24系列采用先进的实时翻译功能，利用设备端AI打破语言障碍，将手机通话实时无缝翻译成您喜欢的语言，促进文化交流。此外，OPPO Find X7 Ultra还集成了出色的设备端AI功能，让用户即使在没有网络连接的情况下也可以从照片中删除不需要的物体和人物。荣耀Magic6系列的“智能拍片”功能可以利用相册中的照片和文字提示生成视频。
接下来讲一下PC领域的应用。在PC端，我们与包括djay Pro在内的多家公司合作。 djay Pro 是世界领先的混音应用程序，在我们的帮助和优化下，它现在在Snapdragon 上运行，这使您可以隔离和操纵声音。在实时轨道上。
现在让我们看看可以按需提供功能升级和新服务的汽车制造商和其他服务提供商。中国的汽车市场是全球增长最快的汽车市场之一。通过在联网汽车中使用生成的人工智能服务，合作伙伴可以创建新功能、扩展产品并为驾驶员和乘客提供更好的体验。联网汽车可以支持各种软件定义的功能和服务，也重新定义了旅行体验。
高通还引领着设备端人工智能在物联网领域的应用。一个具体的用例是在工厂车间。在工厂车间，即使是最小的错误也需要立即解决，因此数据处理的低延迟非常重要。多模式人工智能助手可以使用视觉、文本和语音处理为工厂车间工人提供实时帮助。
我们还提供高通人工智能软件堆栈，这是一个全面的集成解决方案，可为广泛的行业和合作伙伴提供支持。高通AI软件堆栈旨在帮助开发人员优化和部署AI模型，并将专有的高通神经网络处理SDK与模型压缩和量化工具——高通人工智能模型增强工具包（AIMET）集成起来。
综上所述，通过硬件和软件支持的强大组合，高通的产品和技术已经支持了超过25亿台AI设备的出货量。随着我们不断缩小云人工智能和设备端人工智能之间的差距，这个数字未来将继续快速增长。最后，欢迎大家莅临ChinaJoy 骁龙主题馆E4参观体验。谢谢大家！
