什么是天玑AI开发套件?

天玑AI开发套件即NeuroPilot，为内建了CPU，GPU 和 NPU（AI 处理单元）等异构运算单元的MediaTek SoC平台提供了完整和强大的软件解决方案，NeuroPilot是一个工具、APIs和文档的集合，其帮助开发者在MediaTek平台上高效开发和部署基于神经网络模型的AI应用程序。

天玑AI开发套件 NeuroPilot 的优势

高能效的移动 NPU硬件支持

MediaTek的NPU是人工智能处理单元。该硬件由具有单核到多核的人工智能处理组件组成。简而言之，MediaTek NPU是专为智能手机和移动设备所设计，专注于端侧的AI处理任务，可提供高能效的人工智能操作处理。

友善的多框架支持

开发者可以使用 TensorFlow，Pytorch，TF Lite，Caffe，Caffe2 Amazon MXNet，Sony NNabla 或其他自定义的第三方通用AI框架来构建神经网络模型并接入NeuroPilot。在 API 级别，MediaTek NeuroPilot SDK 包括谷歌安卓神经网络 API（ Android NNAPI ）和MediaTek NeuroPilot 扩充组件，从而让开发人员和设备制造商能以更加贴近硬件的方式编码以提高性能和功效。

完善的工具链和文档支持

NeuroPilot提供了模型量化、转换、编译和集成的完整工具链(SDK/API/Doc)。开发者可以基于这些工具链(SDK/API/Doc)调整和优化神经网络，可以大大提高模型运行在设备上的性能，并降低功耗和内存消耗。

一次编写，随处应用

MediaTek NeuroPilot SDK 支持所有MediaTek具备人工智能算力的硬件。它允许开发人员为现有和未来的MediaTek 硬件平台以及包括智能手机，汽车，智能家居，物联网等在内的所有产品线做“一次编写，随处应用”。这不仅简化创建过程，也节省成本和上市时间。其所支持的软件生态系统包括安卓和 Linux 操作系统，并提供完整的编译程序，分析器和应用程序库。

天玑旗舰平台, 完整支持 NeuroPilot

天玑开发者网站提供 NeuroPilot 8.0 版本的完整开发者资源 (请参考下方各资源入口), 适配天玑9400/9300, 天玑8400/8300等系列平台。

天玑AI开发套件助力开发者创造端侧生成式AI新体验

天玑 AI开发套件NeuroPilot，包括快速高效的 GenAI最佳实践、覆盖全球主流大模型的 GenAl ModelHub、高效提升性能的 GenAI 优化技术和Neuron Studio 一站式视觉化开发环境等四大模块，为广大开发者提供 “快、全、强、易” 的专业开发体验，赋能终端生成式 AI 应用开发全流程。

其中，GenAI 最佳实践通过模型量化、模型编译和模型推理技术加速了大模型的终端部署，可从数周加速到一天；GenAI Model Hub 适配行业前沿主流的大模型，为开发者高效构建生成式AI 应用提供丰富的大模型资源。天玑 AI 开发套件还支持推测解码加速、LORA Fusion 等先进的GenAI 优化技术；Neuron Studio 集成开发环境可提供一站式可视化的开发环境，跳出传统的代码开发环境，带来“所见即所得”般更易用的开发体验。目前，天玑 AI 开发者套件已覆盖智能手机、智能汽车、物联网、个人电脑等智能终端设备，为全场景生成式 Al 应用开发赋能。

生成式AI开发教程（1）