如果嵌入式处理器供应商没有合适的工具和软件，则设计节能边缘人工智能 (AI) 系统，加快上市时间可能会变得令人窒息。挑战包括选择正确的深度学习模型、培训和优化模型，以实现性能和准确性的目标，以及在嵌入式边缘处理器上部署模型的专有工具。

从模型选择到处理器部署，TI 协助完成深度神经网络，提供免费工具、软件和服务 (DNN) 开发工作流程的每一步。逐步选择模型，到处训练模型，并无缝部署到 TI 在处理器上，软件加速推论完全不需要任何手工制作或手动程序设计。

步骤 1：选择模型
边缘 AI 系统开发的首要任务是选择正确的 DNN 同时考虑系统的性能、准确性和功率目标。 GitHub 上的 TI 边缘 AI 模型库等工具可以帮助您加速此过程。

这个模型库是 TensorFlow、PyTorch 和 MXNet 开放原始码深度学习模型的大型集合常用于框架。这些模型可以在公共数据集上进行预训练和优化 TI 边缘有效运行 AI。TI 会定期使用开放原始码社区的最新模型和 TI 模型库的设计更新提供了最多样化的性能和准确的优化模型。

通过模型库中的数百个模型，TI 模型选择工具 () 无需编写任何程序代码，可以帮助快速检查和比较处理量、延迟、准确性和双倍数据速率带宽。

南皇电子专注于整合中国优质电子TI代理商国内领先的现货资源，提供合理的行业价格、战略备货、快速交付控制TI芯片供应商，轻松满足您的需求TI芯片采购需求.（http://www.litesemi.com/）

图一 : TI 模型选择工具

步骤 2.训练和调整模型
选择模型后，下一步是训练或优化模型 TI 最佳性能和的最佳性能和准确性。使用我们的软件架构和开发环境可以到处训练模型。

从 TI 在模型库中选择模型时，训练脚本可以根据特定任务的自定义数据集快速传输和训练模型，无需长时间的训练或手工制作模型。为你自己 DNN 模型训练脚本和框架扩展TI官方代理量化感知训练工具有助于优化模型。

步骤 3.评估模型性能
在开发边缘 AI 模型性能需要在实际软件中进行评估。

使用 TensorFlow Lite、ONNX RunTime 或 TVM 以及 SageMaker Neo with Neo AI DLR 操作时间引擎最常用的行业标准 Python 或 C 界面设计应用程序 (API)，只需要几行程序代码，TI 弹性软件架构和开发环境可以到处训练自己的模型，编译模型可以部署到 TI 硬件。在这些行业标准运行时间引擎的后端， TI 深度学习 (TIDL) 模型编译和型编译和运行时间工具 TI 软件编译模型，将编译后的图形或子图形部署到深度学习软件加速器上，无需任何手动操作即可优化推论处理器的性能。

在编译步骤中，培训后的量化工具可以自动将浮点模型转换为定点模型。该工具通过配置文件定量分级混合精度 (8 位和 16 为了显示最佳性能和准确性，调整模型编译的极佳弹性。

各种常用模型的操作不同。TI 边缘 AI 基准检验工具 也位于 GitHub 上，对你有帮助 DNN 模型功能与 TI 模型库中的模型无缝搭配，作为自定义模型的参考。

有两种方法可以在 TI 评估处理器上的模型性能：TDA4VM 入门套件评估模块 (EVM) 或TI Edge AI Cloud，支持远程访问的免费在线服务 TDA4VM EVM 评估深度学习推论性能。用于不同任务和运行时间的引擎组合的多个例子脚本可以在不到五分钟的时间内使用 TI 程序设计、部署和执行加速推论的软件，同时收集基准。

步骤 4：开发边缘 AI 应用

使用开放原始码 Linux 和业界标准 API可以部署模型 TI 软件。然而，在软件加速器上部署深度学习模型只是其中的一部分。

为了帮助快速构建高效的边缘 AI 应用，TI 采用 GStreamer 框架。GStreamer 在软件加速器和数字信号处理任务的端对端信号链加速到软件加速器和数字信号处理的核心。

图二 显示边缘 AI 的 Processor SDK with Linux 有关的软件堆栈和组件。

图二 : 边缘 AI 的 Processor SDK with Linux 组件

结论
即使不是 AI 专家也可以开发和部署 AI 模型或建构 AI 应用。TI Edge AI Academy在自定进度课堂环境中学习有助于测试 AI 并理解基础知识 AI 设计系统和软件程序。实验室提供建筑「Hello, World」人工智能应用的渐进程序代码，以及摄像机拍摄和显示的端对端先进应用程序，可以根据自己的步骤成功开发人工智能应用。

(本文作者Manisha Agrawal在德州仪器工作)