机器学习笔记

绪论

• 神经网络：一种以（人工）神经元为基本单元的模型

• 深度学习：一类机器学习问题，主要解决贡献度分配问题。

推荐书籍

• 《神经网络与深度学习》 https://nndl.github.io/

• CM Bishop. Pattern recognition and machine learning. Springer, 2006

• Wright, S., & Nocedal, J. (1999). Numerical optimization. Springer Science, 35(67-68), 7.

• Boyd, S., & Vandenberghe, L. (2004). Convex optimization. Cambridge university press.

推荐课程

• 斯坦福大学CS224d: Deep Learning for Natural Language Processing

  • http://cs224d.stanford.edu/

  • Richard Socher 主要讲解自然语言处理领域的各种深度学习模型

• 斯坦福大学CS231n: Convolutional Neural Networks for Visual Recognition

  • http://cs231n.stanford.edu/

  • Fei-Fei Li Andrej Karpathy 主要讲解CNN、RNN在图像领域的应用

• 加州大学伯克利分校 CS 294: Deep Reinforcement Learning

  • http://rail.eecs.berkeley.edu/deeprlcourse/

推荐材料

• 林轩田《机器学习基石》《机器学习技法》

  • https://www.csie.ntu.edu.tw/~htlin/mooc/

• 李宏毅《1天搞懂深度学习》

  • http://speech.ee.ntu.edu.tw/~tlkagk/slide/Tutorial_HYLee_Deep.pptx

• 李宏毅《Generative Adversarial Network (GAN)》

  • http://speech.ee.ntu.edu.tw/~tlkagk/slide/Tutorial_HYLee_GAN.pptx

顶级会议

ICML：传统机器学习会议

NIPS：偏向神经网络

ICLR：偏向神经网络，近几年新创办

AAAI/IJCAI：AI方向各领域文章，ML，CV，控制等

ACL/EMNLP：自然语言处理

CVPR/ICCV：视觉方面

人工智能研究领域

• 机器感知（计算机视觉、语音信息处理）

• 学习（模式识别、机器学习、强化学习）

• 语言（自然语言处理）

• 记忆（知识表示）

• 决策（规划、数据挖掘）

人工智能发展历史

深度学习大牛关系图

自然语言处理框架

人工智能三层次

（低）计算智能：充分利用计算能力，达到智能阶段；

（中）感知智能：视听触觉等感知能力，处理图像、声音等；

（高）认知智能：建立于推理之上。