MediaTek通过Meta Llama 2语言模型，增强终端设备生成式AI应用的能力

大家好，今天本人给大家带来文章《MediaTek通过Meta Llama 2语言模型，增强终端设备生成式AI应用的能力》，文中内容主要涉及到，如果你对科技周边方面的知识点感兴趣，那就请各位朋友继续看下去吧~希望能真正帮到你们，谢谢！

2023年8月24日，联发科技（MediaTek）宣布利用Meta新一代开源大语言模型（LLM）Llama 2以及联发科技先进的AI处理器（APU）和完整的AI开发平台（NeuroPilot），建立了完整的终端侧AI计算生态系统，加速了智能手机、物联网、汽车、智能家居和其他边缘设备的AI应用开发，为终端设备提供了更安全、可靠和差异化的使用体验。预计到年底，采用联发科技新一代天玑旗舰移动芯片的智能手机将支持由Llama 2模型开发的AI应用，为用户带来令人振奋的生成式AI应用体验

联发科技资深副总经理暨无线通信事业部总经理徐敬全博士表示：“生成式人工智能的普及化是数字化转型的重要趋势之一，我们的愿景是为Llama 2的开发者和终端用户提供工具，带来更多令人兴奋的人工智能创新机遇和产品体验。通过与Meta的合作伙伴关系，联发科技能够提供更强大的硬件和软件整体解决方案，为终端设备带来远超以往的功能和体验。”

目前，大多数生成式AI都需要依赖云计算来运行。然而，MediaTek通过Llama 2模型的成功应用，实现了在终端设备上直接运行生成式AI应用的功能。这一技术的出现为开发者和用户带来了独特的优势。首先，用户可以享受到无缝的使用体验，同时也能够获得更强的用户信息安全和可靠性。其次，这种技术可以实现更低的延迟，并具备离线运算的能力。此外，相比于依赖云计算，这种技术还能够降低运营成本。总之，通过MediaTek的创新，每个人都能够方便地享受到生成式AI带来的便捷和创新

为了充分释放生成式AI的潜力，终端设备制造商需要采用高算力、低功耗的AI处理器（APU），并通过更快、更可靠的网络连接来增强设备的整体算力。目前，每一款MediaTek 5G智能手机SoC都搭载了AI处理器，已经成功应用于生成式AI应用，如AI降噪（AI-NR）、AI超级分辨率（AI-SR）和AI运动补偿（AI-MEMC）等

MediaTek计划在年底推出新一代旗舰移动芯片。该芯片将采用经过针对Llama 2模型优化的软件栈（NeuroPilot），并搭配升级版的AI处理器（APU），支持Transformer模型作为骨干网络加速。这一设计可以降低动态随机存取内存（DRAM）的读写消耗和带宽占用，进一步提升大语言模型和生成式AI应用的性能。这将有助于开发者打造出令人惊艳的AI应用，并加速终端设备上AI应用的落地和发展

本篇关于《MediaTek通过Meta Llama 2语言模型，增强终端设备生成式AI应用的能力》的介绍就到此结束啦，但是学无止境，想要了解学习更多关于科技周边的相关知识，请关注golang学习网公众号！