- 学习的定义：“学习是系统通过经验提升性能的过程” --Herbert Simon
- 机器学习的定义
- 机器学习是一门研究学习算法的学科，这些算法能够在某些任务T上，通过经验E，以非显式编程的形式提升性能P。 --Tom Mitchell
- 一个学习任务可以由三元组
<T,P,E>明确定义。
- 非显式编程与传统编程
- 传统编程由程序员直接完成程序
- 非显式编程中程序员不直接完成程序，而是实现学习算法，由学习算法实现程序也就是模型
- 机器学习应用场景
- 模型基于大数据：Google网络搜索、Facebook新闻提要
- 输出必须是个性化的：新闻/物品/广告推荐
- 人类不能解释的专业知识：语音/人脸识别、围棋
- 人类的专业知识不存在：在火星上导航
- 机器学习的两种类型
- 预测
- 监督学习：根据输入数据预测所需的输出
- 无监督学习：生成数据实例
- 决策
- 在动态环境中采取行动（强化学习）
- 转变到新的状态
- 获得即时奖励
- 随着时间推移最大化累计奖励
- 在动态环境中采取行动（强化学习）
- 预测
- 机器学习的历史