Skip to content

Latest commit

 

History

History
119 lines (73 loc) · 5.82 KB

横琴答复客户-南方科大.md

File metadata and controls

119 lines (73 loc) · 5.82 KB

答复南方电子科技大学

[TOC]

1 账号信息

连接 https://inference.hengqinai.com:30443/

账号 [email protected]

密码 72yE9s6Mu6bim9Be

项目 sustech-ligy

节点选择器 sustech-ligy=true

2 服务信息

AI框架|对应社区版本 ssh 服务连接 密码 加载环境变量 测试
Tensorflow 1.14 source /opt/cambricon/env_tensorflow.sh python -c 'import tensorflow as tf; print(tf.version)'
pytorch 1.3.0 source /opt/cambricon/pytorch/src/catch/venv/pytorch/bin/activate source /opt/cambricon/env_pytorch.sh python -c 'import torch;print(torch.version)'
caffe 5.2.0 source /opt/cambricon/env_caffe.sh

对应AI框架阅读对应使用手册

3 用户新建服务需要选镜像信息

Tensorflow 镜像选择： docker-user.hengqinai.com:30443/public-server/mlu270_ubuntu16.04.tf:v1.5.0-safe

pytorch 镜像选择： docker-user.hengqinai.com:30443/public-server/mlu270_ubuntu16.04.pytorch:v1.5.0-safe

caffe 镜像选择：docker-user.hengqinai.com:30443/public-server/mlu270_ubuntu16.04.caffe:v1.5.0-safe

4 资源池选择

请按照账号信息的节点选择器，完成标签选择；或者规格选择；以便于将服务调度到所属资源池。

5 持久化存储

用户需要创建数据卷并挂载到服务上，用于存储数据，便于数据持久化。避免数据丢失。操作阅读《横琴先进智能计算平台-用户使用手册》

6 使用须知

横琴云计算服务2020年12月31日前只支持推理服务；

2020年10月1日起试用期为开通账号起15天内有效，如需继续使用，请联系与您沟通的运营人员进行付费购买；

试用账号开通资源池最大为 CPU 120内存 120 GB 推理卡4MLU 存储500GB；

横琴超算提供的AI框架版本与社区最新版存在一定版本差距，建议您使用横琴AI框架对应的版本retraining你的模型，以达到算子适配；

为了带来更好的用户体验，建议您提前准备好推理用到的算子，并以表单的形式提供给寒武纪AE支持，以便为您带来更好更高效的体验。

7 各框架镜像环境介绍说明

Tensorflow（Ubuntu16.04）镜像

描述：

这是一个安装有Neuware SDK安装包的镜像，并且有Tensorflow源码以及编译环境，一个已经编译好的tensorflow wheel包并且安装。

安装有如下内容：

  • 安装Neuware SDK安装包，并且安装了cnrt，cnml，cndev，cnpapi，cnperf，cncodec包，安装文件位于在/usr/local/neuware中；
  • 安装编译器cnas/cncc/cngdb安装包，安装文件都在/usr/local/neuware中；
  • 在/opt/cambricon/tensorflow目录下放一份源码，安装编译依赖环境；
  • 基于源码已经编译好的tensorflow wheel包，并且把wheel包安装到系统中，wheel包位于：/opt/cambricon/tensorflow/src/tensorflow/virtualenv_mlu/tensorflow_mlu-1.14.1-cp35-cp35m-linux_x86_64.whl；
  • 在/opt/cambricon/目录下放了一份cnplugin的源码，文件名Cambricon-CNPlugin-MLU270.tar.gz；
  • cnmon位于在/usr/bin/cnmon，可以使用cnmon命令；
  • 注入编译环境变量；
  • 编译脚本/opt/cambricon/configure_tensorflow.sh；

Caffe（Ubuntu16.04）镜像

描述：

这是一个安装有Neuware SDK安装包的镜像，并且有Caffe源码以及编译环境，一个已经编译好的libcaffe.so库。

安装有如下内容：

  • 安装Neuware SDK安装包，并且安装了cnrt，cnml，cndev，cnpapi，cnperf，cncodec包，安装文件位于在/usr/local/neuware中；
  • 安装编译器cnas/cncc/cngdb安装包，安装文件都在/usr/local/neuware中；
  • 在/opt/cambricon/caffe目录下放一份源码，安装编译依赖环境；
  • 基于源码已经编译好的caffe 位于/opt/cambricon/caffe/src/caffe/build/lib/libcaffe.so；
  • 在/opt/cambricon/目录下放了一份cnplugin的源码，文件名Cambricon-CNPlugin-MLU270.tar.gz；
  • cnmon位于在/usr/bin/cnmon，可以使用cnmon命令；
  • 注入编译环境变量；
  • 编译脚本/opt/cambricon/configure_caffe.sh

Pytorch（Ubuntu16.04）镜像

描述：

这是一个安装有Neuware SDK安装包的镜像，并且有Pytorch源码以及编译环境，一个已经编译好的pytorch wheel包并且安装。

安装有如下内容：

  • 安装Neuware SDK安装包，并且安装了cnrt，cnml，cndev，cnpapi，cnperf，cncodec包，安装文件位于在/usr/local/neuware中；
  • 安装编译器cnas/cncc/cngdb安装包，安装文件都在/usr/local/neuware中；
  • 在/opt/cambricon/pytorch目录下放一份源码，安装编译依赖环境；
  • 基于源码已经编译好的pytorch wheel包，并且把wheel包安装到系统中，wheel包位于：/opt/cambricon/pytorch/src/pytorch/dist/torch-1.3.0a0-cp35-cp35m-linux_x86_64.whl;
  • 在/opt/cambricon/目录下放了一份cnplugin的源码，文件名Cambricon-CNPlugin-MLU270.tar.gz；
  • cnmon位于在/usr/bin/cnmon，可以使用cnmon命令；
  • 注入编译环境变量；
  • 编译脚本/opt/cambricon/configure_pytorch.sh，带2个参数configure_pytorch.sh 0 1

更多使用细节请查阅《横琴AI框架-使用手册》

8 技术支持信息

技术及文档支持邮箱:

[email protected]

[email protected]

微信及电话：18578223672