近日,由电子发烧友网和elexcon2024深圳国际电子展暨嵌入式展、半导体展联合举办的2024第八届人工智能大会顺利举行,大会表彰了在行业中表现*的上游元器件供应厂商,公布了“2024年度市场*表现奖”获奖名单。爱芯元智凭借着AI芯片矩阵产品、解决方案以及AI模型等一系列落地成果荣获“年度AI创新产品奖”。再次展现出爱芯元智的技术创新与客户服务上的*实力。
当前,电子产业发展正经历前所未有的挑战,一方面国际环境复杂,市场竞争加剧,导致产业加速内卷,另一方面,新技术不断更新迭代,又给企业带来全新的机遇,“危与机”并存之下,产业上下游仍在砥砺前行,持续创新,这也更加彰显中国半导体企业的韧性。
爱芯元智作为国内AI芯片领域的佼佼者,深入布局端侧应用,以原生支持Transformer的网络模型结构的AI芯片,全面支持端侧大模型部署实践。对此,爱芯元智AI推荐引擎总监唐琦在会上进行了主题分享,唐琦表示,大模型正在从云侧向端侧迁移部署,端侧大模型具有隐私性强、离线部署方便、可定制等优势。这也带动了多模态大模型呈现百花齐放之势。但也应看到,目前端侧大模型还存在着选择性少、成本高、功耗大,还未形成应用落地的闭环等挑战,为此爱芯元智推出了一系列方案来解决这些问题,包括已经批量生产的NPU、简单易用的软件栈等。
唐琦透露,爱芯元智今年已经启动研发最新的Neutron V6p NPU,这是一颗8位精度每秒运算次数可达128Tops的AI芯片,可以适配多种大模型,帮助实现以文搜图、一键消除、目标采集、单目深度估计等多种AI功能。同时,全新的基于 AX630C的开发板-爱芯派2也已推出,它能够方便更多社区开发者来端侧部署大模型。
今天,AI已经爆发出巨大的应用前景,多功能、多模态的大模型正在颠覆着社会的生产生活,也对算力的要求达到了前所未有的高度,秉持着“普惠AI造就美好生活”的使命,爱芯元智将持续挖掘芯片的AI潜力,让AI真正走入千行百业,助力推动全社会的智能化进程。
