算能TPU使用

  • TPU开发文档

https://doc.sophgo.com/sdk-docs/v23.05.01/docs_latest_release/docs/tpu-mlir/quick_start/html/index.html

工具链和demo:https://github.com/sophgo/tpu-mlir

TPU-MLIR是算能智能处理器的TPU编译器工程。该工程提供了一套完整的工具链, 其可以将 不同框架下预训练的神经网络, 转化为可以在算能TPU上高效运算的模型文件 bmodel/cvimodel

TPU-MLIR的整体架构如下:

目前直接支持的框架有PyTorch、ONNX、TFLite和Caffe。其他框架的模型需要转换成ONNX模型。 如何将其他深 度学习架构的网络模型转换成ONNX, 可以参考ONNX官网: https://github.com/onnx/tutorials

 

算丰智算处理器BM1684X,是面向推理的算力处理器。可集成于智算服务器、边缘智算盒、工控机等多种类型产品,高效适配市场上所有算法,实现图片分类、目标检测、实例分割、语义分割、行为分析、文字识别、语言处理、语音识别、语音合成、搜索推荐等应用,为各个行业进行赋能;具有超高性能计算能力,超强编解码能力,部署灵活,强易用性等优势

 

  • SOPHON BM1684X 功能框图:

 

提交要求

1.参赛作品必须有demo演示;

2.初赛阶段:选手根据所选场景完成方案制作,提交完整解决方案,并完成核心算法与硬件的适配。方案需要将算法与硬件结合,运用算能BM1684x云空间资源进行方案撰写;

3.复赛阶段:优化算法移植的性能,并完成线下路演;

4.决赛阶段:解决方案内所有算法需完成在算能硬件上移植与部署,最终评选优秀性能算法进行算法集采;

5.参赛作品拥有商业实战案例,或者作品正在商用/试商用过程中,将会成为加分项;

6.具有独特的产品、技术或者商业模式,对项目拥有自主知识产权。

评测标准

(一)初赛(总分20分):

1) 项目可行性和创新性(5分):评估项目的创新性和独特性,以及实施计划的可行性。

2) 技术方案和方法(10分):评估技术方案的合理性、科学性和可行性,是否符合竞赛要求。

3) 项目进度和规划(5分):评估项目的进度规划,以及团队在初赛阶段的准备情况。

 

(二)复赛(总分30分):

1) 算法移植和性能(15分):评估参赛团队将算法移植到指定硬件平台的质量和性能表现。

2) 系统稳定性和可靠性(10分):评估移植后的系统的稳定性和可靠性,是否能在实际应用中稳定运行。

3) 路演展示(5分):评估团队在复赛现场的路演展示,包括演示效果、展示技巧和沟通能力等。

 

(三)决赛(总分50分)

1)方案完整性(算法、软件)(15分):评估项目整体完备程度,包括算法和系统鲁棒性。

2)方案交付能力(15分):评估项目迁移部署的难易度,能否在实际场景中完成特定任务。

3)方案创新性与商业价值(20分):评估项目的创新性和潜在商业价值。