数据建模的步骤

数据建模的步骤

  • 1.收集数据
  • 2.准备输入数据
  • 3.分析输入数据
  • 4.训练算法
  • 5.测试算法
  • 6.使用算法

1.收集数据

一般通过公司自建的数据库系统获取数据,也可以使用开源的数据,常用的工具mysql,hive,Excel等,存储数据的媒介。

2.准备输入数据

一般的机器学习模型对输入数据的类型有着严格的格式要求,如在svm中object需要转化为int,把数据改造成可以输入模型的数据。常用的工具pandas,numpy。

3.分析输入数据

此步骤一般用于分析数据的分布,以及数据的缺失情况,异常情况,确保数据的质量。如果工作的内容是数据分析为主,则第三步是重点,直接人工进行数据分析。常用的工具pandas,matplotlib。

4.训练算法

通过数据建立模型,一般常用的模型有svm,随机森林,xgboost,神经网络等,按照输入的数据和需要的输出数据为标准设计算法。常用工具sklearn,TensorFlow。

5.测试算法

建立好模型之后当然要评估它的好与坏,对于已经知道目标值的的监督算法,必须已知用于评估算法的目标变量值;对于无监督学习,也必须用其他的评测手段来检验算法的成功率。然后根据实际问题进行改正。常用工具sklearn,TensorFlow。

6.使用算法

模型上线到实际的应用场景,然后进行正常的工作。此时如果碰到新的问题则进行改进。

参考资料:机器学习实战 peter harrington

你可能感兴趣的:(编程,机器学习,算法,神经网络)