AIGC7: 高通骁龙AIPC开发者沙龙过程记录A
图中是一座高耸的宫殿。 就像AI的出现,慢慢初现端倪,头角峥嵘。
背景
一直以来都比较关注AI的发展,有幸再一次参加异常AI的盛会。
从我的角度看。
高通是一家生产芯片的公司,国内的小米,荣耀,Oppo , Vivo 手机大量在使用高通的手机芯片,但是今天的主题确实AIPC , 根据我掌握的信息和日常感知,PC,即台式电脑,台式机的CPU大多以因特尔和AMD为主。
高通这是打算要借助AI发展的风,在PC芯片这个领域进军。
先看看他的节目单。
按照我的初步分析。每一个分享主题的目的如下。
到的比较早,先签到,贴了一个臂章。
然后是进到会议厅,等待主持人开始。我坐在第二排,抱歉拍到了前排的营销大佬。
接下来我把记录的东西整理一下,顺带做一下思考和分析,如果各位有不同意见的,可以留言跟我讨论。
1 AI+助力PC变革
先上记录,搞了一个长图,见谅。
先感谢 郑总。
开篇一张图展示了高通的提供了手机和PC的芯片产品,明星产品是 骁龙XElite 和骁龙 XPlus .
这两款芯片主题就是AI能力。
芯片即CPU , 包含了集成的GPU 和用于加速的 NPU , AI的能力主要依赖GPU支持深度学习和科学运算, NPU是为人工智能和神经网络的训练和推理提供加速效果的硬件。
牛逼的芯片总要有卖点,那么 骁龙XElite的卖点是什么?
1.性能优于因特尔的最新版芯片,体现在计算速度,电池续航,标杆应用的启动速度上;
2.跟当前的大模型算力匹配,作为牛逼的硬件支撑AI软件应用;
算力有一个衡量值。
TOPS是计算性能单位,用于衡量如NPU等AI加速器的效率,表示每秒执行的运算次数(浮点或整数),1 TOPS等于1万亿次操作/秒。更高的TOPS值代表更强大的处理能力,能更快处理复杂深度学习任务。
骁龙XElite的算力是 45TOPS , 即一秒可以计算45万亿次;
文生图也有一个衡量值。 Stable Diffusion < 1秒 , 即文生图的速度小于1秒。
Stable Diffusion 是一个用深度学习技术做的图片创作模型,它是扩散模型的一种特别形式。这个模型一步步地把随机的噪点变成图片,能做到产出既精美又复杂的图像。
这些还不够明显。
从运行模型的角度来说。
你的PC机上如果安装了骁龙XLite芯片,那么可以运行 13B 参数的模型, 7B的模型每秒生成30个token .
换句话说,你可以在你的PC机器上 每秒钟回应30个短单词,速度是很快的。 相对于人的速度来说。
芯片上集成了NPU 具备了 始终感知ISP 能力。
始终感知ISP(Always-On Image Signal Processor) 是一种硬件设计,旨在使设备能够在低功耗状态下持续处理图像和视频信号。这种技术通常用于智能手机、监控摄像头和其他需要持续图像处理的设备中。始终感知ISP能够在设备处于待机模式时,保持对环境的监测,并在必要时快速响应。
硬件上是4纳米工艺,比较先进。 能降低PC的功耗,电池更耐用。
图形处理能力比较牛逼,因为芯片中含有GPU ,即图形处理单元。
支持高清的显示器输出,急速 的网络连接,摄像头更清晰,音频也更清晰。
要买可以买这些品牌的笔记本。
戴尔,华硕,宏基,联想,惠普,三星 。 最新的笔记本应该是搭载了这个PC芯片 骁龙XLite 。
对开发者来说,有价值的可能是这张宏观的图了。我手绘一下。
在PC上,运行了各行各业的应用,已经有或者会慢慢具备AI能力,那肯定需要底层芯片的算力支持。对整个体系来说,芯片的进步会推动这个进程。
然后非常贴心的给了高通公司的开发工具网站和购买mini设备的网站。
放一个文档链接: https://qualcomm.csdn.net/m/zone/qualcomm2016/wos/docs?docId=20898
mini设备目前是没货的,价格倒是不贵,810美元,后面可能有货。对开发者来说,必须一个本地开发环境。大部分人使用的电脑其实不具备GPU或者NPU硬件,总有一天会需要更换的。
2 从工具到助理 AI重新定义PC
首先感谢孙总。 作为开发者,不太擅长打交道,本来应该上去加个微信,关注一下荣耀的art14, 听完了之后,我认为 孙总是全场最懂技术的营销总。
先贴长图,作为详细过程记录。
AI的发展历程就不说了,2022年11月 GPT3.5 问世,开启了AI时代。 到当前最新的GPT4o ,以及国内百家争鸣的AI应用或者大模型,我使用过的比如: 豆包, 通义千文 ,混元大模型 ,星火 , kimi .
通用AI能力,即云端的大模型,有如下的能力:
PC是离用户最近的地方,如果本地能跑一些大模型,结合推理平台,可以极大的方便PC的用户,比如可以定制各种AI Agent, 即助理,结合在个人pc上配置的各种提示词或者参数,或者个人的一些资料,可以做出本地特色,深度理解用户的AI助理,art14里面应该是有一个个人pc助理,叫yoyo .
然后是整理了在pc上的AI Agent碰到的一些挑战。
对于辅助和助手,这个图很鲜明。
高层级的助手可以不用眼睛,不用脑子,能自主做事情。
感觉这个跟高级员工和实习生的差距。
个人电脑的 AI Agent 后期还需要在 单任务推理,多任务并行推理层面进化, 这个其实是软件层面是进化,决定性的还是推理能力, 其它的只是编排。
AI Agent 是个人PC的未来交互形态吗? 那不就是机器人了吗?只是不是人形的。
给出的AI Agent交互图,感觉还是比较科学的,这个是干活。 单独贴图出来。
智能体的背后是API ,即各种插件和外部API,还有就是大模型的能力,大模型有记忆,规划行动能力,从而可以理解用户意图,形成工具和api的指令集。
外部api 可以对接云端的AI服务,从而形成个人pc上的超级智能体。
最后是从荣耀硬件厂商的角度做了分层。
云端AI,即通用AI协作,提供外部API出来;
本地AI 使用本地大模型和AI芯片
在操作系统层面打通各种设备 PC , 手机,穿戴设备,广告设备 使得跨端融合成为可能。
最后搞了一波广告, art14, 我查了京东和荣耀的商城,没有搭载晓龙芯片的PC出售,是在造势应该。
最后是看好PC市场上AIPC的市场份额,实在是一个营销大师。
原创不易,关注诚可贵,转发价更高!转载请注明出处,让我们互通有无,共同进步,欢迎沟通交流。