世界人工智能大年夜会在2023年7月6日-8日于上海举办，本届大年夜会以“智联世界 生成将来”为主题，打造“会群情坛、展览展示、评奖赛事、应用体验”四大年夜核心内容，汇聚世界顶级科学家、企业家、当局官员、专家学者、国际组织、投资人、始创团队等，搭建世界级合作交换平台。
高通作为终端侧AI引导者，在本次大年夜会中进行了多场主题演讲，并展示了终端侧AI在智妙手机中的最新应用。参会者可以或许在高通的展台中亲自体验生成式AI在终端侧的高效运行，合营领略生成式AI所创造的将来体验。此外，高通AI引擎荣获2023世界人工智能大年夜会顶级奖项：SAIL奖??卓越人工智能引领者奖，助力AI体验立异和繁华成长。
高通技巧公司首席商务官Jim Cathey在首日全部会议??家当成长论坛时代，揭橥主题为“5G赋能智能互联的将来”的演讲。其表示，5G对于一个加倍智能的世界至关重要，不仅推动了智能的范围化扩大，还可以或许使在边沿侧生成的情境相干数据与云端近乎及时地共享。在智妙手机范畴，5G和AI的结合是现代智妙手机体验的基本;除智妙手机之外，连接和智能正在开启工业立异和数字化新时代。
高通AI引擎荣获大年夜奖 云端+边沿侧混淆AI助力生成式AI成长
高通技巧公司首席商务官Jim Cathey
高通在人工智能鼓起之时就十分存眷边沿侧AI成长，认为云端和边沿终端AI协同工作的混淆AI模式，可以或许实现更强大年夜、更高效的AI体验。对今朝风行的生成式AI，混淆AI可充分应用边沿侧终端算力来降低成本，并且在隐私和安然方面也占尽优势。
骁龙移动平台是高通在终端侧AI的重要构造，第二代骁龙8移动平台搭载最先辈的高通AI引擎，经由过程一系列软硬件立异带来更强大年夜的算力和更高的效力，能充分知足终端侧AI应用，结合高通AI软件栈和AI Studio供给全栈AI才能和优化手段，并与云端协同打造适应大年夜模型时代的混淆AI处理框架，创造手机端的新型AI体验。
混淆AI具有终端的快速响应才能，也具有云端的精确性，可自由的在云端和终端侧之间分派负载，对在阈值以下的轻量级模型，推理即可完全在终端侧进行。假如是更复杂的义务，模型则可以跨云端和终端运行，并在须要时经由过程云端来更正终端侧的处理成果。
第二代骁龙8移动平台凭借超高算力助力终端侧AI有的高效运算才能，同时兼顾了低功耗运算，知足手机端对续航的需求，助力骁龙手机在终端侧率先支撑Stable Diffusion、ControlNet等生成式AI用例。
跟着生成式AI模型的赓续缩小，再加上终端侧算力的高速晋升，混淆AI的潜力将会进一步增长。今朝参数跨越10亿的模型已经可以或许在手机上运行，机能与精度可以媲美云端。再加上终端侧在本地运算的方法，对用户隐私数据和安然性的优势也相当明显。
第二代骁龙8移动平台的高通AI引擎付与了手机端立异的AI体验，并荣获了2023世界人工智能大年夜会SAIL奖??卓越人工智能引领者奖。SAIL奖作为人工智能范畴高规格、国际化的奖项，在2023年持续追踪人工智能技巧成长、生成式人工智能激发的行业高潮，摸索AIGC催化的家当新业态，存眷新一代人工智能的技巧策源，加快AI别致点与理论新发明的融合，用以嘉奖在人工智能范畴达到全球领先程度的立异技巧和新型应用的项目。
第二代骁龙8实现端侧生成式AI高效体验
今朝高通已经实现了在手机端经由过程模型来生成图片，并且在WAIC现场进行了DEMO演示。起首是应用Stable Diffusion模型，经由过程给出TAG文字标签让AI模型在手机本地主动生成一张图片。Stable Diffusion是可以在本地运行的，然则须要很高的设备，尤其是显卡请求极高，不然生成一张图片就要几十分钟的时光。高通的展示中，Stable Diffusion在一台骁龙8 Gen2手机中运行，以本地化的端侧算力，20个推理步调不到15秒时光即可生成一张图片，运行效力异常惊人。
除此之外，高通还展示了手机端ControlNet生成图片的体验，其同样应用骁龙手机经由过程端侧AI算力实现。ControlNet可以或许让生成的图片高度受控，可以或许应用预先供给的图片特点，来精准控制生成图片。比如简单的手绘一张猫咪草图，然后给AI响应的文字描述，之后AI就会以草图为标准，生成相符TAG的图片。
在高通的展示中，预先供给一张背影照片，在经由过程TAG标签，即可让AI精准生成一张身处海边的傍晚时刻背影大年夜片。而生成一张如许的照片，只须要11.28秒的时光。
ControlNet解决了纯文字生图大年夜模型无法定向控制生成图片的难题，而可以或许在端侧实现快速生成图片，离不开强大年夜AI算力的支撑。骁龙移动平台的高通AI引擎采取异构运算，可以或许同时调用CPU、GPU和Hexagon处理器，以达到最大年夜化的运算效力。第二代骁龙8移动平台在进级的高通Hexagon处理器支撑下，张量加快器带来4.35倍的AI机能晋升，能效方面最高有60%晋升。Hexagon处理器还供给专用供电体系、支撑微切片推理、INT4精度、Transformer收集加快等立异技巧，可结合高通AI软件栈和AI Studio供给全栈AI才能和优化手段。
