人工智能实战第7次作业_许骏鹏

人工智能第七次作业

项目	内容
这个作业属于哪个课程	人工智能实战
这个作业的要求在哪里	click_here
我在这个课程的目标是	获得实战经验

一、作业要求

• 学习OpenPAI的使用：
  学习文档，并提交OpenPAI job，将体验心得形成博客，选题方向可以是：
  介绍OpenPAI，以及使用心得体会，给出文档或者功能等方面的意见和建议
  将OpenPAI与其他机器学习平台进行对比或评测
• 学习NNI的使用
  学习文档，并使用NNI进行调参或架构调整，将体验心得形成博客，选题方向可以是：
  介绍NNI，自己的心得体会，为NNI提建议或问题，包括文档功能等
  将NNI与自己了解的其他自动机器学习工具比较或评测

二、作业内容

（1）学习OpenPAI的使用

• 介绍OpenPAI
  OpenPAI由微软亚洲研究院和微软（亚洲）互联网工程院联合研发，支持多种深度学习、机器学习及大数据任务，可提供大规模GPU集群调度、集群监控、任务监控、分布式存储等功能，且用户界面友好，易于操作。
  为深度学习量身定做，可扩展支撑更多AI和大数据框架。提供丰富的运营、监控、调试功能，降低运维复杂度。

• 使用心得
  1、在Visual Studio Code工具上安装Open PAI VS Code Client插件
  
  2、利用提供的集群IP、提供的用户名和密码创建OpenPAI集群
  3、使用提供的couplet_azure文件，其中自带了初始化文件 init.py、数据传输文件、训练过程文件和训练模型的脚本命令。
  4、 修改任务配置文件
  5、Submit Job to PAI Cluster提交任务
  
  6、等待训练完成后，在/Beihang_Couplet/output/目录下载模型文件
  7、线上训练需要排队
  

  （2）学习NNI

• NNI简介
  NNI(Neural Network Intelligence)是微软开源的自动化机器学习调参工具。支持分布式调度和自动化超参数调整，具有可视化界面。
  NNI (Neural Network Intelligence) 是一个工具包，可有效的帮助用户设计并调优机器学习模型的神经网络架构，复杂系统的参数（如超参）等。
  NNI 的特性包括：易于使用，可扩展，灵活，高效。
• 使用
  1、配置环境tensorflow，NNI
  2、配置参数搜索空间json完成NNI设置
  3、使用yml运行，将运行平台改成OpenPai即可在线训练

{
   "dropout_rate":{"_type":"uniform","_value":[0.1,0.5]},
   "conv_size":{"_type":"choice","_value":[2,3,5,7]},
   "hidden_size":{"_type":"choice","_value":[32，64，128, 512, 1024]},
   "batch_size":{"_type":"choice","_value":[64, 128, 256，512]},
   "learning_rate":{"_type":"uniform","_value":[0.001, 0.01，0.1]}
}