什么是NeuroPilot?

NeuroPilot为内建了CPU，GPU 和 APU（AI 处理单元）等异构运算单元的MediaTek SoC平台提供了完整和强大的软件解决方案，NeuroPilot是一个工具、APIs和文档的集合，其帮助开发者在MediaTek平台上高效开发和部署基于神经网络模型的AI应用程序。

NeuroPilot生成式AI开发者套件 助力开发者创造端侧生成式AI新体验

NeuroPilot生成式AI开发者套件包含支持全球主流大语言模型的大模型中心，全新的工具链也加入了NeuroPilot Fusion和LoRA技术（低秩自适应融合），能更快完成模型的优化和转化，充分发挥MediaTek AI系统的强劲算力，显著提升大模型的端侧处理效率。在天玑9300平台，纯端侧的AI图片生成如Stable Diffusion可以做到1秒内出图，70亿参数大语言模型的纯端侧推理可以做到每秒20 token，且率先实现了在端侧成功运行330亿参数的AI大语言模型，领跑业界。开发者可以通过下方资源入口申请NeuroPilot生成式AI开发者套件下载。

NeuroPilot 的优势

高能效的移动 APU硬件支持

MediaTek的“APU”是人工智能处理单元。该硬件由具有单核到多核的人工智能处理组件组成。具体而言，MediaTek“APU”是专为智能手机和移动设备所设计，专注于端侧的AI处理任务，可提供高能效的人工智能操作处理。

友善的多框架支持

开发者可以使用 TensorFlow，Pytorch，TF Lite，Caffe，Caffe2 Amazon MXNet，Sony NNabla 或其他自定义的第三方通用AI框架来构建神经网络模型并接入NeuroPilot。在 API 级别，MediaTek NeuroPilot SDK 包括谷歌安卓神经网络 API（ Android NNAPI ）和MediaTek NeuroPilot 扩充组件，从而让开发人员和设备制造商能以更加贴近硬件的方式编码以提高性能和功效。

完善的工具链和文档支持

NeuroPilot提供了模型量化/转换、编译和集成的完整工具链(SDK/API/Doc)。开发者可以基于这些工具链(SDK/API/Doc)调整和优化神经网络，可以大大提高模型运行在设备上的性能，并降低功耗和内存消耗。

一次编写，随处应用

MediaTek NeuroPilot SDK 支持所有联发科技具备人工智能算力的硬件。 它允许开发人员为现有和未来的MediaTek 硬件平台以及包括 智能手机，汽车，智能家居，物联网等在内的所有产品线做“一次编写，随处应用”。 这不仅简化创建过程，也节省成本和上市时间。 其所支持的软件生态系统包括安卓和 Linux 操作系统， 并提供完整的编译程序，分析器和应用程序库。

天玑旗舰平台, 完整支持 NeuroPilot

天玑开发者网站提供 NeuroPilot 5.0 版本的完整开发者资源 (请参考下方各资源入口), 适配天玑9000, 天玑8000/8100/8200 系列平台。