machine learning

数据分析、挖掘， 机器学习等学习笔记

• 数学基础
• 数据分析与可视化
• 机器学习
• python

数学基础

• 高等数学
• 线性代数
• 统计学

数据处理分析与可视化

jupyter notebook ,numpy,pandas,matplotlib

• 开发环境
• 数据领域中的专业术语
• numpy数据基础
• numpy数组创建
• numpy数组基本操作
  • 数组的访问、切片、bool索引、条件索引
• numpy数组运算
  • 数组加减乘除、矩阵运算、矩阵的逆、伪逆、矩阵转置、数组升维
• numpy数据合并和拆分
• numpy统计运算
• numpy排序找索引操作
• numpy比较和神奇索引
• pandas中的数据结构
• Series创建、属性、计算
• Series的索引与基本操作
• pandas
  • dataframe创建、基本属性与索引切片
  • dataframe中的方法与索引技巧
  • dataframe统计运算和逻辑运算
  • dataframe数据计算
  • 时间序列
  • io的读取和存储、缺失值处理、离散化处理
• matplot
  • matplot基础
  • matplot其他

机器学习

• knn

  • knn理论、公式
  • 实现自己的knn
  • sklearn中的knn
  • 训练数据集和测试数据集拆分
  • 结果准确度
  • 超参数寻找
  • 网格搜索超参数
  • 数据归一化和标准化
  • sklearn中的标准化

• 线性回归法

  • 线性回归理论、公式
  • 简单线性回归实现
  • 向量化运算效率高
  • 衡量回归算法的标准，MSE、MAE
  • 最好的衡量线性回归法的指标：R Squared
  • 正规方程法实现多元线性回归
  • sklearn中解决线性回归
  • 模拟欠拟合与过拟合、正则化处理

• 梯度下降法

  • 梯度下降法理论、公式
  • 模拟实现梯度下降法(单变量)
  • 在线性回归中实现梯度下降法
  • 梯度下降向量化公式及性能和正规方程对比
  • 随机梯度下降法
  • sklearn中的随机梯度下降法
  • 关于梯度的计算调试

• 多项式回归与模型泛化

  • 什么是多项式回归
  • scikit-learn中的多项式回归和Pipeline
  • 过拟合与欠拟合
  • 为什么使用测试数据集
  • 学习曲线
  • k折交叉验证
  • 岭回归
  • LASSO回归

• PCA

  • PCA理论、公式
  • 使用梯度上升法实现PCA

• 逻辑回归

  • 逻辑回归理论、公式
  • sigmod函数
  • 实现逻辑回归
  • 决策边界
  • 添加多项式
  • scikit-learn中的逻辑回归
  • 解决多分类问题

• 评价分类结果

  • 实现混淆矩阵，精准率和召回率
  • F1 score
  • 精准度和召回率的平衡
  • 精准度-召回率曲线
  • ROC曲线与AUC指标
  • 多分类看预测结果

• k-means

  • k-means理论
  • 特征降维、kmeans实践

• 朴素叶贝斯

• 神经网络

• 推荐系统相关

  • 推荐系统快速入门
  • 用户口味、余弦相似性
  • 用户消费能力、标准化欧式距离
  • NearestNeighbors、余弦相似性找出最相似的用户

links

• 高等数学第6版上册
• 基于Python的数据分析与可视化-掘金小册
• 重学线性代数-极客时间
• Python核心技术与实战-极客时间
• 数据分析实战45讲-极客时间
• 机器学习(公式推导与代码实现)
• 从零开始机器学习的数学原理和算法实践