深度学习商业应用开发指南:从对话机器人到医疗图像处理 pdf下载

深度学习算法的一个关键特性是能够以少的监督学习大量数据，这与通常需要较少(标记)数据的浅层模型不同。本书将探索一些示例，例如使用完全卷积神经网络和残差神经网络进行视频预测和图像分割，这个应用已经在ImageNet图像识别竞赛中取得了较佳的性能。同时，通过这些技术的应用，读者还将学习到更多的图像识别技术和认识到一些活跃的初创公司。

通过本书中的示例，读者还将探索深度学习算法相对于其他传统(浅层)机器学习算法的优势；学习Word2vec、skip thought vectors和Item2Vec等技术；通过学习嵌入式语言翻译模型练习使用长短期记忆网络单元和Sequence 2 Sequence模型。

此外,本书还将带领读者了解深度学习业务中的一些重要发现和影响，以及采用该技术的主要公司和初创公司。本书将介绍一些训练深度学习模型的框架、关键方法和微调模型的技巧。

书中的实操编码示例在Keras中,使用Python 3.6完成。

阿曼多·维埃拉(Armando Vieira)于1997年在葡萄牙科英布拉大学(University of Coimbra)获得物理学博士学位,然后开始从事人工神经网络工作。 他于2003年率先开展了深度神经网络研究,目前在从事图像处理、药物发现、信用评分及风险分析的公司和初创团队中担任高级数据科学顾问。 他曾参与了许多与人工智能相关的商业活动,并且是Alea.ai 的创始人。 读者可以在http://armando.lidinwise.com 上找到更多关于作者的信息。

伯纳特·里贝罗(Bernardete Ribeiro)是葡萄牙科英布拉大学(University of Coimbra)的教授,主要教授编程、模式识别、商业智能和其他相关课程。 她获得了科英布拉大学信息学工程(CISUC)博士学位,并且是CISUC的特许教授。 同时,她还担任CISUC信息与系统中心的主任。 她的主要研究方向包括机器学习、模式识别、金融工程、文本分类和信号处理,以及它的在相关领域的广泛应用。 她是人工神经网络实验室(LARN)的创始人,并且担任该实验室主任超过20年。 伯纳德特(Bernardete)不但是葡萄牙模式识别协会(APRP)的主席,而且还是国际模式识别协会(IAPR)理事会的成员。

译者简介

张向东，1969年生于宁夏中卫， 1992年获得清华大学电子系通信专业学士学位； 1995年获得中科院声学所理学硕士学位，师从俞铁城。俞先生早在1972年就开始在计算机上研究语音识别，是中国较早的语音识别专家之一。张向东曾先后担任中科院声学所语音识别研究室副主任、Intel中国研究中心高级研究员、歌尔声学（北京）技术副总、歌尔股份投资总监、歌尔创新研究院院长，现任苏州缪斯谈谈 CTO及北航兼职教授、中国声学学会理事、中国计算机学会（CCF）人机对话TF主席。

第一部分 背景和基础知识

第1章 绪 论

1.1 范围和动机

1.2 深度学习领域的挑战

1.3 目标受众

1.4 本书结构

第2章 深度学习概述

2.1 冬去春来

2.2 为什么DL不同?

2.2.1 机器时代

2.2.2 对DL的一些批评

2.3 资 源

2.3.1 图 书

2.3.2 简 讯

2.3.3 博 客

2.3.4 在线视频和课程

2.3.5 播 客

2.3.6 其他网络资源

2.3.7 从一些不错的地方开始学习

2.3.8 会 议

2.3.9 其他资源

2.3.10 DL框架

2.3.11 DL即服务(DLAS,DL As a Service)

2.4 最近的发展

2.4.1 2016年

2.4.2 2017年

2.4.3 演化算法

2.4.4 创造力

第3章 深度神经网络模型

3.1 神经网络简史

3.1.1 多层感知器

3.2 什么是深度神经网络

3.3 玻耳兹曼机器

3.3.1 受限玻耳兹曼机器

3.3.2 深度信念网络

3.3.3 深度玻耳兹曼机器

3.4 卷积神经网络

3.5 深度自动编码器

3.6 递归神经网络

3.6.1 强化学习的RNN

3.6.2 LSTM

3.7 生成模型

3.7.1 变分自动编码器

3.7.2 生成性对抗网络

第二部分 深度学习:核心应用

第4章 图像处理

4.1 CNN 图像处理模型

4.2 ImageNet及其他

4.3 图像分割

4.4 图像标题

4.5 视觉问答(VQA)

4.6 视频分析

4.7 GAN 和生成模型

4.8 其他应用

4.8.1 卫星图像

4.9 新闻和公司

4.10 第三方工具和API

第5章 自然语言处理及语音

5.1 解 析

5.2 分布式表示

5.3 知识表示与知识图谱

5.4 自然语言翻译

5.5 其他应用

5.6 多模态学习与问答

5.7 语音识别

5.8 新闻与资源

5.9 总结与思考展望

第6章 强化学习和机器人

6.1 什么是强化学习

6.2 传统的RL

6.3 DNN 强化学习

6.3.1 确定性政策梯度

6.3.2 深层确定性政策梯度

6.3.3 深度Q 学习

6.3.4 Actor Critic算法

6.4 机器人与控制

6.5 自动驾驶汽车

6.6 会话机器人(聊天机器人)

6.7 新闻聊天机器人

6.8 应 用

6.9 展 望

6.10 自动驾驶汽车的相关新闻

第三部分 深度学习:商务应用

第7章 推荐算法和电子商务

7.1 在线用户行为

7.2 重新定向

7.3 推荐算法

7.3.1 协同过滤器

7.3.2 RS的深度学习算法

7.3.3 Item2Vec

7.4 推荐算法的应用

7.5 未来发展方向

第8章 游戏和艺术

8.1 早期的国际象棋

8.2 从国际象棋到围棋

8.3 其他游戏和新闻

8.3.1 Doom

8.3.2 Dota

8.3.3 其他应用

8.4 人造角色

8.5 艺术中的应用

8.6 音 乐

8.7 多模态学习

8.8 其他应用

第9章 其他应用

9.1 异常检测与欺诈

9.1.1 欺诈预防

9.1.2 网上评论的欺诈行为

9.2 安保及防范

9.3 预 测

9.3.1 交易和对冲基金

9.4 医学和生物医学

9.4.1 图像处理医学图像

9.4.2 生物组学

9.4.3 药物发现

9.5 其他应用

9.5.1 用户体验

9.5.2 大数据

9.6 未 来

第四部分 机遇与展望

第10章 深度学习技术的商务影响

10.1 深度学习机会

10.2 计算机视觉

10.3 AI助手

10.4 法 律

10.5 放射学和医学图像

10.6 自动驾驶汽车

10.7 数据中心

10.8 利用DL建立竞争优势

10.9 人 才

10.10 光有准确度还不够

10.11 风 险

10.12 当个人助理变得比我们好

第11章 新近研究和未来方向

11.1 研 究

11.1.1 注意机制

11.1.2 多模式学习

11.1.3 一次性学习

11.1.4 强化学习和推理

11.1.5 生成神经网络

11.1.6 生成性对抗神经网络

11.1.7 知识转移和学会学习

11.2 何时不使用深度学习

11.3 新 闻

11.4 人工智能在社会中的伦理和启示

11.5 AI中的隐私和公共政策

11.6 初创公司和风险投资

11.7 未 来

11.7.1 用较少的数据学习

11.7.2 转移学习

11.7.3 多任务学习

11.7.4 对抗性学习

11.7.5 少量学习

11.7.6 元学习

11.7.7 神经推理

附录A 用Keras训练DNN

A.1 Keras框架

A.1.1 在Linux中安装Keras/

A.1.2 模 型

A.1.3 核心层

A.1.4 损失函数

A.1.5 培训和测试

A.1.6 回 调

A.1.7 编译和拟合

A.2 深度和宽度模型

A.3 用于图像分割的FCN

A.3.1 序列到序列

A.4 多层感知器的反向传播

参考文献

序 言

深度学习已经风靡人工智能领域,几乎渗透到各个商业应用当中。由于现在几乎所有内容和交易都以数字格式记录,因此可通过机器学习算法探索大量数据。然而,传统的机器学习技术很难探索这种所谓的大数据中出现的错综复杂的关系。对于诸如图像、语音和文本之类的非结构化数据,尤其困难。

深度学习算法具有非常强的学习能力,可以应对分析巨大数据流的挑战。此外,深度神经网络相对于其他人工智能技术,需要很少(如果有的话)的特征工程,就可以从头到尾进行训练。深度学习算法的另一个优点是仅需要最少的监督架构(换句话说,这些架构可以自动从数据中学习几乎不需要人为干预)。这些架构是弱监督学习,即所谓“无监督”。最后,深度学习可以当作生成过程进行训练,其算法不是将输入映射到输出,而是学习如何从纯噪声(即生成对抗网络)生成输入和输出。想象一下,从几百个随机数组合中,生成梵高的画作、汽车,甚至是人脸。这是多么神奇的事情!

谷歌语言翻译服务、Alexa语音识别和自动驾驶汽车均采用深度学习算法。其他相关领域也严重依赖深度学习算法,例如语音合成、新药研发及面部辨别和识别等。即使在创意领域,如音乐、绘画和写作,也开始被这项技术所颠覆。事实上,深度学习算法在经济中创造出了深刻的转型升级,这可能引发人类所见过的最大变革之一。

由于免费、强大的计算框架和API(如Keras和TensorFlow)的传播,运行模型的廉价云服务以及数据的便捷可用性,任何人都可以在几小时内在家中运行深度学习模型。这种“平民化”就解释了为什么对深度学习感兴趣的人数呈爆炸性增长,以及在开放格式Arxiv和NIPS等专业顶级会议上呈现的众多突破的原因。

本书巧妙地通过抽象数学技能探索各种深度学习算法,讲解了计算机视觉、自然语言处理、强化学习和无监督深度学习等深度学习领域的具体商业应用的案例。本书面向中级和高级专业人员以及对机器学习有基本了解的入门级专业人员。读者可以通过深入理解业务应用程序,了解有关各个领域未来发展的应用示例。

本书简要介绍了整个深度学习领域的最新算法,其主要目的为使算法更为实用:解释和说明在几个应用领域中使用的一些重要的深度学习算法,特别是对核心业务有重大影响的深度学习算法。本书面向那些想要了解深度学习以及如何将其用于开发商务应用的人,旨在为从业人员提供实用有效的实施方法。书中过滤掉了令人无所适从的统计学和线性代数推导,为读者提供了如何为商业模式制作简单动手工具的方法和技巧。

本书首先介绍了深度学习架构,并给出了简要历史背景。接下来介绍了深度学习的最先进实例,与传统的机器学习算法相比,其具有更好的应用前景。书中涵盖了推荐系统和自然语言处理的应用,包括能够捕捉语言翻译模型丰富性的递归神经网络(RNN)。最后介绍了研究深度学习模型在金融风险评估、控制和机器人技术及图像识别中的应用。在书中,你可以了解到产品中采用该技术的关键公司和初创公司,还可以找到有用的链接以及一些关于如何使用Keras和Python中的一些实际的代码示例和训练深度学习模型的示例、技巧和见解。

译者序

1992年离开清华园,也离开当时很有产业应用前景的通信行业, 进入语音识别这个前沿研究领域, 没考虑太多的就业前景, 因为那时没听说过互联网,更别说人工智能产业了,只是觉得语音识别更有趣,在智力上的挑战也更大。

27年后, 刚刚在一家国内上市公司完成一个“人工智能、机器换人”项目后,就离开这家上市公司的创新研究院院长职位,开始一家“人工智能+音乐教育”的创业公司,回顾这些年的所见所闻,感慨万千。

刚开始, 语音识别和图像处理是不同的行当, 模式识别和专家系统也是比较远的门类, 那时很少有人把它们统称为人工智能, 因为实在太难了, 每个细分行当的工具差别都很大,很少有人能同时精通这几个门类。 经历了近60年艰苦跋涉后, 很多“AI人才”转行进入互联网、基因测序和电子产品研发领域。2012年后,深度神经网络技术借助GPU 和互联网大数据,在语音识别和图像识别等领域首度超越了人的识别能力, 人工智能产业的革命真正到来了!

常常有人问我:“有了人工智能会怎样?”我建议他这样思考:“在1900年, 人们会问有了电会怎样? 站在21世界的你该怎样回答?”20世纪这一百年最重要的技术要素是电,人们现在不会再大规模从事“洗衣工”这样的职业。因为有了电,无论是黄昏还是黑夜,人们都可以更多地工作、学习、娱乐,创新了不计其数的新职业,生活品质大大提升。

21世纪的最大技术要素无疑是人工智能,产线工人、司机或物流人员、保安等职业将逐渐消失,就像100年前的洗衣工人,同时又有难以置信的无数新行业被“发明”出来,21世纪末的生活精彩程度是现在难以想象的。

无论你现在有什么技能,从事什么行业,在21世纪的生存发展都要求你具备“人工智能场景思维”,在各个场景里,人工智能做什么,人做什么,如何分工配合。这就是我们选择翻译推出这本《深度学习深度学习商业应用开发指南———从对话机器人到医疗图像处理》的原因,这里涉及的场景包括图像分割、图像识别、图像标题、视觉问答、视频分析、卫星图像处理、知识图谱、自然语言翻译、多模态学习、语音识别、机器人控制、自动驾驶、对话机器人、电子商务推荐算法、棋类游戏、电子游戏、图画风格转化、音乐处理、信用卡防诈骗、金融预测、医疗图像识别、新药发现、法务、数据中心管理等几十种应用。围绕这些应用场景,对具体的算法和技术也做了详细讨论。

本书适合各类各级企业管理者、产品经理、软硬件工程师、测试人员阅读,也适用于人工智能培训班、大学生创新创业实战训练、研究生课题演练、程序员实力提升使用。

本书的出版得益于北京航空航天大学出版社的推荐以及北航软件学院研究生邱国庆、李文意的辛勤付出,在此一并表示感谢。

由于人工智能是近年来快速发展、迭代演变的领域,对于一些术语也有不同的译法,我们尽量多方考证,选用在国内最为普遍的术语译法。

两位译者对全书做了三遍校对,尽管如此,错误仍然在所难免, 如果读者发现错误或不妥之处,可以给我们发邮件,我们将在再版时修订,感谢您的参与和指正。衷心祝愿您能拥抱人工智能时代,具备人工智能场景思维,更好地服务他人,为社会创造更多财富,也让您和您的家人拥有更美好的未来。

译 者

2018年6月于苏州科技城