2024-01-02 09:58
OPPO公布AndesGPT大模型最新升级：70亿参数端侧模型，OPPO Find X7系列首发搭载，小布助手能力全面提升
AI奇点网1月2日报道丨2023年12月27日，OPPO举行了一场关于在手机产品上应用AI大模型的技术沟通会。这次会上主要交流的自然是OPPO新一代旗舰手机——OPPO Find X7 系列产品技术，在会上，OPPO 公布了自研的”安第斯大模型“ AndesGPT 的全新升级，为行业内”首个端侧应用70亿参数大模型“的手机厂商。
据悉，全新的AndesGPT首次应用70亿参数的大模型，相比10亿大模型，同时更大的模型数据量，在 AI 处理的能力方面会更好，并且这次大幅压缩大模型模型的内存占用我，仅为 3.9G，它的响应速度、理解能力、精准程度都有明显优势，知识、记忆、工具三大能力领先，具备个性专属、对话增强、端云协同三大技术特征。
安第斯大模型将分成 1800 亿参数、700 亿参数、70 亿参数三种体量，支持端云协同部署，根据不同场景的用户需求实现智能调度。
OPPO 表示，AndesGPT 大模型通过强大的知识、记忆和工具能力，为小布助手带来广阔的知识面，以及个性专属的智慧服务能力。通过独创的 SwappedAttention 技术，AndesGPT 还解决了长期记忆带来首字推理延迟的问题。
AI奇点网了解到，通过 4bit 量化的模型压缩，OPPO 的 Al Boost 推理引擎优化，以及与芯片厂家联合深度优化等多项举措，OPPO 在 Find X7 系列上首次实际端侧应用 70 亿参数的大模型。
据介绍，在 AndesGPT 大模型 70 亿参数大语言支持下，OPPO 端侧具备超快的首字响应速度，在文本内容摘要的场景下，200 字的首字生成仅需 0.2s，领先友商 20 倍；2000 字首字生成仅需 2.9s，领先友商 2.5 倍；摘要字数上限可达 14000 字，可以轻松输入一篇常见期刊论文，领先友商模型能力 3.5 倍。
相比 10 亿参数大模型，AndesGPT 70 亿参数语言模型号称在带来更有“智商”的理解能力。
以通话摘要功能举例，AndesGPT 可以帮助用户梳理通话内容的要点，并准确地输出带有主题、要点，以及待办事项的通话内容摘要，精准程度“明显优于 10 亿级别的端侧模型”。
在AI绘画能力上，AndesGPT不但分割精度高至发丝级的，而且最多可以支持 6 个主体的分割与提取，并且能够针对超大面积图像进行填充和生成，甚至可以完美的生成图片中的自然光影。
图像在本地生成时长低至6s，耗时领先同平台其他模型60%，让端侧也可以实现媲美云端的生成精度与质量。
相关文章
Kardashian
Altman
