别硬把大模型往手机里塞

商业迷雾当中,那些看似金光闪闪的“机会”,往往是一把将人们困住的镣铐。CNBC最新消息称,全球芯片巨头高通打算在加州两大据点砍掉约1258名员工。事实上,高通早就向加州就业部门送交了这份“死亡名单”:圣迭戈1064名、圣克拉拉194名。这场人事地震预计将在12月13日爆发。高通上个季度的报告中,已经

商业迷雾当中,那些看似金光闪闪的“机会”,往往是一把将人们困住的镣铐。

CNBC最新消息称,全球芯片巨头高通打算在加州两大据点砍掉约1258名员工。事实上,高通早就向加州就业部门送交了这份“死亡名单”:圣迭戈1064名、圣克拉拉194名。这场人事地震预计将在12月13日爆发。

高通上个季度的报告中,已经暗示了这次“血洗”。从财务结构来看,手机芯片是高通的主要收入来源,占比超过一半,但在三季度里收入同比下降了21.6%。智能手机市场的饱和,像一把无形的大手,正在悄悄扼杀上游供应链的巨头。

手机市场的增长现在主要依赖于设备的升级周期。自2019年以来,受5G驱动的手机更换热潮已经持续了近四年。但Counterpoint的资深分析师Peter Richardson却揭示了一个冷酷的事实:到2022年时,全球手机更换周期已达到史上最长的43个月。

过去五年,手机界苦苦追寻创新之路,急于改变僵局。但当连Apple这样的市场*也难以拿出令人震撼的新功能时,其他厂商更是难以维持其市场地位。越来越多的消费者开始质疑,换一部新手机的价值究竟在哪?

有行业专家指出,真正的破局点或许是软件,尤其是AI领域像LLM、Transformer等大模型背后蕴藏着的力量。

尽管目前还不清楚,该如何*化地利用这些潜力,但这并不妨碍国内手机巨头试图突围。华米OV等都把目光瞄准了AI大模型,迫切要开辟一个新战场。

01 手机巨头争斗大模型赛场

一时之间,国内手机厂商好像都追起了大模型的风头。

8月14日,小米年度发布会上,小米AI大模型亮相,霎那之间成为焦点。在C-Eval、CMMLU两大测试平台上,它分别斩获第十名和中文榜首的佳绩。

雷军信心满满地宣布,小米的这个13亿参数大模型已经在手机端*运行,其实力在某些场景中甚至能与60亿参数的云端模型匹敌。而家喻户晓的小爱同学也将强化AI大模型的能力,邀请测试已在发布会当天拉开序幕。

瞄准AI大模型的狼烟不只在小米一处升起。

早在8月4日的2023年华为开发者大会,余承东就大手一挥,宣布HarmonyOS 4将受益于“盘古大模型”的加持。与众不同的是,华为决定将大模型深度整合进手机系统,实现更高层次的融合。

继华米之后,vivo和OPPO亦不断展露其对大模型领域的雄心。

近期,OPPO宣布对其全新“小布助手”进行首轮公开测试,引发业内关注。此产品基于了AndesGPT大模型技术。

AndesGPT模型出自OPPO旗下安第斯智能云团队之手,其核心是一个基于混合云架构的高级生成式大语言模型。用户可以通过唤醒小布语音助手并说出“小布大模型”,参与小布1.0公测版报名。更多信息将在11月16日的ColorOS 14发布会上公布。

与同行的宣传异曲同工,AndesGPT在其官方介绍中也荣获了“行业翘楚”等封号,此模型在多个权威评测榜单上频频亮相。

另一个战线上,vivo已锁定11月1日,要召开年度开发者大会。此番集结,vivo将揭晓其*研发的AI大模型与全新操作系统;而广受瞩目的OriginOS 4也将初露锋芒。

尤其引人关注的,vivo打造的AI大模型矩阵极为丰富,覆盖了十亿、百亿及千亿三大参数级别,共五款模型,旨在满足多样化的核心应用场景。

同样,这批尚在神秘面纱后的产品,已在多个权威评测中崭露头角。最新数据显示,vivo自研AI大模型在C-Eval和CMMLU两大平台上均雄踞榜首。

近期,手机行业已经见证了各大品牌逐个投身于AI大模型的深海。存量市场的激烈争夺,使得各大厂商都希望借助新技术锋芒,为自身在高端市场塑造更具竞争力的形象。

多位行业内有深度洞察的人士认为,强调AI功能的优势,显然是各大厂商策略的重要一环。不仅能刺激用户对高端产品的欲望,更能带动产品价格上涨,从而为品牌创造更为丰厚的利润。

随着时间的推移或能见到,首波真正的“AI手机”即将震撼登场,而未来两年,更会是AI在手机上的创新大爆发时刻。

02 大模型角逐移动端,路径逐渐统一

虽然手机厂商们在宣传中表现得在手机上运行大型模型就如同喝水吃饭般轻松,但实际操作中,背后隐藏的挑战远超预期。

根据小米技术委员会AI实验室大模型团队负责人栾剑的分享,要真正在手机上运行大模型,对手机硬件的要求绝不会低,特别是处理器和内存两项。

大模型首先就是其“大”的特性,一旦占据过多的手机工作内存,将导致其他应用受限,甚至可能造成手机无响应、整体性能锐减,或者最糟糕的情况是直接死机。

此外,计算能力也是评判的关键点。若生成一个字符就需要花费好几秒的时间,这对于用户体验无疑是灾难性的。考虑到人们的平均阅读速度约为每秒十几个汉字,故模型的“生成速度”必须远超于此。

而功耗问题也不容忽视。许多网上的模型Demo常常疏忽这一关键环节。高负载下的计算芯片会导致手机急速发热,若如此长时间运作,势必会对电池的续航产生严重损害。

综上,手机大模型真正的挑战在于如何在处理速度、散热和电池续航等之间找到一个精妙的平衡。因此,业界的重心还放在了端云协同之上。

不久前,联发科与OPPO达成协议,共同研发大模型在端侧的轻量化部署方案,旨在让大模型技术更为贴近消费者的实际使用。

10月18日,联发科同样宣布与vivo在AI领域深度合作和联调,实现了10亿和70亿AI大语言模型以及10亿AI视觉大模型在手机端侧的落地,共同为消费者带来端侧生成式AI应用创新体验。

端侧大模型的好处是,用户可以享受更快的响应速度,同时数据也不需要上传到云端,更加安全。目前许多主流厂商都在研发在移动终端部署 AI大模型的解决方案,以实现在端侧运行大模型的目标。

然而,不能假定仅凭手机端便能解决所有问题。正如小米透露的,他们将继续遵循端云结合的策略。某些功能或能力,如果可以通过端侧的模型来实现,就无需转移到云端处理。

观察vivo的情况,虽然缺乏确切的数据,但可以合理推测,它也将采纳云端和本地结合的大模型策略。

从其大模型的参数量级可以分析,660亿、1300亿和1750亿量级的云端大模型目的在于确保处理能力,以应对更复杂的问题。而10亿和70亿量级的本地大模型则是为了确保用户隐私、能效和快速响应。

这意味着,vivo很可能会采取端云协同工作的方式,即通过评估问题的复杂性来决定是否在本地处理或转移到云端。

结合云端和本地的大模型不仅可以有效地节省成本,而且能够满足用户在计算能力、性能、能耗和隐私保护等多个方面的需求,这无疑是目前整合手机和AI大模型的优选策略之一。

03 厂商跟风之下,一些潜在的挑战

某些业内观点,将目前尝试在手机端运行大模型的技术视作一柄锋利之剑。然而深入背后,也不免露出一种应景而非真正求变的短视之感。

首先,对于“大模型”的界定仍旧模糊不清。以小米的端侧模型为例,其参数量达到13亿,与GPT2的1.5B参数相差无几,但这真的足以赋予其“大模型”的头衔吗?

不乏有业界人士抛出质疑:手机端的大模型实践,更多地是为了满足市场短期热潮,而非技术的真正跃进。若手机真的能毫不费力地驱动大模型,那显卡巨头英伟达的存在意义又在哪里?

再者,为了让大模型适应手机,制造商不得不通过剪枝、蒸馏和量化等策略对其进行大幅压缩。以vivo为例,它可能通过连续的模型裁剪和蒸馏,将参数从1750亿降低到仅10亿,这种操作是否过于牵强,值得思考。

要认识到,大模型并不仅仅是参数数量的简单叠加,它的真正价值在于深度学习中的“深度”。大量的参数意味着更多的信息、知识和上下文的捕捉。

因此,当把一款千亿参数的模型剪裁到几十亿参数时,势必要失去一些原有的学习深度。对于AI的日常应用来说,可能影响不大,但对于那些期望从AI获得深度见解和理解的高端用户来说,这种损失是无法接受的。

即便小米宣称其端侧模型能与云端模型相提并论,但这其中的细节仍不容忽视。拥有13亿参数的端侧模型自然难以与拥有千亿参数的云端模型相比。为了弥补这种差距,小米可以选择让其端侧模型在特定场景下与云端模型匹敌,但终归不能全面比肩。

从这些层面出发,当前手机上的大模型实现方式似乎有点“矫枉过正”。对于普通用户而言,他们并不真正关心模型的参数数量,而更关心能为他们带来什么价值。vivo和小米的这些尝试固然值得鼓励,但也应该反思其真正的目的和意义。

更重要的是,尽管众多手机制造商都在积极探索AI大模型的应用,但未来的路径仍然充满未知。手机市场上,什么才是下一个“杀手级”应用,还有待时日揭晓。

目前手机制造商对AI大模型的具体应用似乎过于偏重“语音助手”。这种单一方向的追求,是否只是迎合了科技热点趋势,而非真正考虑用户的实际需求?

以近期知名博主对vivo新款AI大模型的分享为例,尽管其在OriginOS 4上以焕然新姿亮相,但与现行的语音助手相比,核心并无太大颠覆。

简而言之,AI大模型在手机领域的真正普及仍旧步履蹒跚。如今的种种努力,只是冰山初露的探秘之旅。

(0)
小多多的头像小多多创始人

相关推荐

  • 5亿,华安证券在安徽阜阳设立一支基金

    投资界(ID:pedaily2012)消息,日前,阜南县政府与华安证券股份有限公司签订《关于金融促进经济发展的全面战略合作框架协议》(以下简称《协议》),根据《协议》,双方将共同设立总规模5亿元的阜南华安基金,助力阜南实体经济发展。据悉,接下来,双方将加强资源优势互补,积极谋划在资本市场、科技创新、

    2023年8月18日
  • 静悄悄涨了45%,这个AI最受益板块要起飞

    静悄悄涨了45%,这个AI最受益板块要起飞,随着各行各业都在介入AIGC的应用,这些领域的价值挖掘很可能会成为AI资金下一个重点布局的领域。

    2023年4月21日 创投
  • 奈雪的茶开放加盟,蜜雪冰城反攻一线,茶饮巨头都怎么了?

    最近几年,中国的茶饮市场可谓是你方唱罢我登场,不过基本上都是泾渭分明的两大阵营,一方是以高端茶饮为代表的喜茶、奈雪的茶方队,另一方则是以蜜雪冰城为代表的下沉市场方队,然而就在最近奈雪的茶开始大规模开放加盟,蜜雪冰城却开始大规模反攻一线城市,这让人不禁很好奇为什么茶饮巨头都变成了自己讨厌的样子?01

    2023年8月28日
  • 平安普惠贷款无力偿还怎么办 可以协商吗

    平安普惠是中国平安保险股份有限公司联营公司旗下的一款小额贷款服务平台,不少人急用钱时在上面申请贷款出现了无力还款的情况,所以就问平安普惠贷款无力偿还怎么办?可以协商吗? 平安普惠贷…

  • 烧掉千亿后,「爱优腾」迎来重生

    2021年,在短视频的冲击下,爱奇艺、优酷和腾讯视频还在为“盈利”而叫苦不迭。而在没盈利的背后是,当时有媒体统计,爱奇艺(创办于2011年)、优酷视频(2010年)和腾讯视频(2015年)三大平台10年累计烧掉超千亿人民币。此后又迎来微短剧大爆发,尤其是2023年。据德塔文《2023年上半年微短剧市

    2024年1月18日
  • Transformer一作再创业,新获4亿融资,谷歌英伟达AMD参与

    Transformer作者创立的大模型公司,再获5650万美元投资,换算成人民币有四亿多。英伟达、AMD,还有两位创始人的老东家谷歌,都是这轮融资的参投者。加上种子轮中获得的融资款,这家成立不到一年的公司已经获得了近6500万美元。这家大模型初创公司名为Essential AI,创立于今年年初,此后

    2023年12月13日 创投
  • 香港人,去深圳Citywalk

    这年头,要是再有人diss深圳是美食荒漠,*站出来反驳的肯定是香港人,他们甚至怀疑你是在凡尔赛。香港人对深圳爱得有多深沉?这恐怕连深圳local都自愧不如,不得不照着他们的旅游攻略帖来打卡。△小红书上有很多香港人发的“如何玩转深圳”的旅游帖。(图/小红书截图@星QQ哇)过去,“购物天堂”香港挤满了蜂

    创投 2023年8月30日
  • 今年农村什么项目好赚钱 分享给创业者一点有用的经验

    现在的很多人都越来越不喜欢老老实实的上班了,都想在找一个自己可以做的来的项目去创业,接下来的这篇文章里就跟各位分享几个今年在农村可能会好赚钱的项目! 首先第一种就是做手工制品的代加…

    创投 2022年1月25日
  • “素食之王”好吃不长肉,咱就是说,减肥吃它太合适啦_行业动态

    夏天一到,就意味着“露肉”的季节来了。为了能在夏季瘦下来,相信不少小伙伴都在绞尽脑汁研究各种各样的减肥食材。在所有的减肥食材中,有一样做法非…” />
    <meta http-equiv="Content-Type" content="text/html; charset=utf-8

    创投 2023年7月13日
  • 过年买什么好吃的 看看这些你有没有吃过

    现在随着物质生活越来越丰富,很多人都想在过年的时候多买一些好吃的,那么到底过年买哪些好吃的比较好呢这篇文章就给大家好好聊聊! 首先第一个就是香酥诱人的坚果,过年总是吃瓜子花生,难免…

    创投 2022年1月25日
  • 崇川区宝月湖股权投资母基金招GP

    崇川区宝月湖股权投资母基金招GP,时间:2023年5月26日至2023年6月17日。开标地点:南通市崇川路1号南通市崇川高新产业园区发展(集团)有限公司3楼会议室。

    创投 2023年6月10日
  • 国产软件板块股票一览 想投资一定要多学多看

    A股市场上,总是有这样那样的热点,这几天市场上最热的热点之一就是国产软件板块了,那么国产软件有哪些股票呢?这篇文章就跟大家聊聊这个话题,介绍几家相关的上市公司。 豪森股份:豪森软件…

    创投 2022年1月25日
  • 年底离职潮来临该怎么做 作为一个合格的HR要看一看

    每次快要到过春节的时间点都是一家公司员工离职最多的时候,那么面对这种离职潮需要做哪些应对措施呢?接下来的这篇文章里就给大家分享一些技巧和用的到的经验! 其实年底的离职潮是不可避免的…

    创投 2022年1月25日
  • 香港银行卡怎么办理 内地办理方法介绍-财经

    对于有港股投资或者是想购买香港保险的内地人士,办理一张香港银行卡是很有必要的,但关于如何办理香港银行卡,很多人其实并不是很清楚,内地就可以直接办理香港银行卡吗?香港银行卡的办理,需…

    创投 2022年1月25日
  • 负债5.8亿,门店全关,昔日千店餐饮巨头如今卖楼抵债

    负债5.8亿,门店全关,昔日千店餐饮巨头如今卖楼抵债,昔日“烘焙第一股”门店全关、卖楼抵债。这,并不是克莉丝汀唯一一次“卖楼抵债”。今年三四月份,克莉丝汀曾两次尝试拍卖一栋办公楼,起拍价分别为1.53亿余元和1.2亿余元,最终均因无人竞买而遭遇流拍。

    创投 2023年6月27日