写在前面

深度学习（deep learning）是机器学习的分支，是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。深度学习是机器学习中一种基于对数据进行表征学习的算法。观测值（例如一幅图像）可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务（例如，人脸识别或面部表情识别）。深度学习的好处是用非监督式或半监督式的特征学习和分层特征提取高效算法来替代手工获取特征。

常用应用

深度学习被用于研究界和工业界，帮助解决许多大数据问题，如计算机视觉，语音识别和自然语言处理。实际的例子包括：

1. 车辆，行人和地标识别的司机协助
2. 图像识别
3. 语音识别和翻译
4. 自然语言处理
5. 生命科学
6. 深度学习的引擎

自动驾驶

国外自动驾驶的大头是Uber和Lyft，Alphabet的Waymo和Tesla。由于软件错误，Uber 在旧金山错过了几盏红灯，但是由于之前报道过的人为错误，Uber开始了一年的挫折。之后Uber分享了内部使用的汽车可视化平台的细节。

• Uber的自驾车计划在12月份达到了200万英里；
• Waymo模拟显示改进的车辆导航；
• Lyft宣布正在建立自己的自主驾驶硬件和软件；
• 特斯拉Autpilot还没有看到太多的更新；
• 苹果，Tim Cook 证实，苹果公司正在开发用于自动驾驶汽车的软件。

硬件应用

现代深度学习技术，要求昂贵的GPU来训练最先进的模型。到目前为止，NVIDIA一直是大赢家。今年，它宣布了其新的Titan V旗舰GPU。（颜色是土豪金）但是竞争正在增加。

• Google的TPU 现在可以在其云平台上使用；
• 英特尔的Nervana 推出了一套新的芯片；
• 特斯拉承认它正在开发自己的AI硬件。

艺术应用

• 今年初获得最多的吸引力的一个应用是图像，音乐，草图和视频的生成性建模。
• NIPS 2017年会议今年首次推出了机器学习创意与设计研讨会。
• 最流行的应用程序之一是谷歌的QuickDraw，它使用神经网络来识别你的涂鸦。使用发布的数据集，您甚至可以教机器为您完成您的绘图。

学习资源

• 斯坦福大学视觉识别卷积神经网络课程。
• 斯坦福大学自然语言处理与深度学习课程
• 斯坦福的深度学习理论
• 新的Coursera深度学习专业
• 蒙特利尔的深度学习
• 加州大学伯克利深度强化学习
• 该Tensorflow开发峰会上深入学习的基础知识和相关的API Tensorflow会谈

录音资源

• NIPS 2017
• ICLR 2017
• EMNLP 2017

其它资源

arXiv可以获取的教程和报告

• 深化强化学习：概述
• 工程师机器学习简介
• 神经机器翻译
• 神经机器翻译和序列 – 序列模型：教程

本文参考

• Wildml
• wikipedia
• Nvidia