人工智能与深度学习

人工智能与深度学习ArtificialIntelligenceandDeepLearningINTRODUCTIONContents目录1.深度学习2.人工智能技术3.AI在我们生活中成功的应用4.算法训练5.神经网络在人工智能中的应用深度学习Part1机器学习这个词是让人疑惑的，它是MachineLearning(简称ML)的直译，使用了拟人的手法，说明了这门技术是让机器“学习”的技术。但是计算机怎么可能像人类一样“学习”呢？机器学习是一种让计算机利用数据来进行各种工作的方法。听起来不可思议，但结果却非常可行的。“统计”思想将在你学习“机器学习”相关理念时无时不伴随。你会颠覆你以前建立的因果无处不在的根本理念。下面通过一个故事来简单地阐明什么是机器学习这个例子来源于真实的生活经验，它的过程可以被扩充化为一个完整的机器学习的过程。“大家都有跟别人相约的经历。当你碰到一些爱迟到的人，你的时间不可避免的浪费。我的一个朋友小Y就不是那么守时。有一次我跟他约好3点钟在某个麦当劳见面，在我出门时我突然想到一个问题：我现在出发合适么？我会不会又到了地点后，花上30分钟去等他？我决定采取一个策略解决这个问题。”等人问题“我把跟小Y相约的经历在脑海中重现一下，看看跟他相约的次数中，迟到占了多大的比例，来预测他这次迟到的可能性。假设我跟小Y约过5次，他迟到的次数是1次，那么他按时到的比例为80%，我心中的阈值为70%，我认为这次小Y应该不会迟到，因此我按时出门。如果小Y在5次迟到的次数中占了4次，也就是他按时到达的比例为20%，这个值低于我的阈值，因此我选择推迟出门的时间。”依据数据所做的判断跟机器学习的思想根本上是一致的。刚才的思考过程只考虑“频次”这种属性。在真实的机器学习中，这可能都不算是一个应用。一般的机器学习模型至少考虑两个量：一个是因变量，也就是我们希望预测的结果，在这个例子里就是小Y迟到与否的判断。另一个是自变量，也就是用来预测小Y是否迟到的量。这个方法从它的利用层面来看，又称为经验法，也可以称之为依据数据做的判断。把时间作为自变量，譬如我发现小Y所有迟到的日子基本都是星期五。于是我可以建立一个模型，来模拟小Y迟到与否跟日子是否是星期五的概率。这样的图就是一个最简单的机器学习模型，称之为决策树。如果把我们的自变量再增加一个。例如小Y迟到的部分情况时是在他开车过来的时候路较堵。于是我可以关联考虑这些信息。建立一个模型包含两个自变量与一个因变量。再更复杂一点，小Y的迟到跟天气也有一定的原因，这时候我需要考虑三个自变量。如果我希望能够预测小Y迟到的具体时间，我可以把他每次迟到的时间跟雨量的大小以及前面考虑的自变量统一建立一个模型，这样可以帮助我更好的规划我出门的时间。在这样的情况下，决策树就无法很好地支撑了，因为决策树只能预测离散值。如果我把这些建立模型的过程交给电脑。比如把所有的自变量和因变量输入，然后让计算机帮我生成一个模型，同时让计算机根据我当前的情况，给出我是否需要迟出门，需要迟几分钟的建议机器学习方法是计算机利用已有的数据(经验)，得出了某种模型(迟到的规律)，并利用此模型预测未来(是否迟到)的一种方法。通过上面的分析，可以看出机器学习与人类思考的经验过程是类似的，不过它能考虑更多的情况。，机器学习的一个主要目的就是把人类思考归纳经验的过程转化为对数据的处理计算得出模型的过程。经过计算机得出的模型能够解决很多灵活复杂的问题。人工智能技术Part279%21%模式识别(核心)模式识别=机器学习。通过计算机用数学技术方法来研究模式的自动处理和判读。我们把环境与客体统称为“模式”。模式识别是指对表征事物或现象的各种形式的(数值的、文字的和逻辑关系的)信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程，是信息科学和人工智能的重要组成部分。数据挖掘数据挖掘=机器学习+数据库。数据挖掘一般是指从大量的数据中通过算法搜索隐藏于其中信息的过程。数据挖掘通常与计算机科学有关，并通过统计、在线分析处理、情报检索、机器学习、专家系统（依靠过去的经验法则）和模式识别等诸多方法来实现上述目标。计算机视觉计算机视觉=图像处理+机器学习。指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉，并进一步做图形处理，使电脑处理成为更适合人眼观察或传送给仪器检测的图像。统计学习近似等于机器学习。统计学习是个与机器学习高度重叠的学科。因为机器学习中的大多数方法来自统计学。语音识别=语音处理+机器学习。语音识别技术就是让机器通过识别和理解过程把语音信号转变为相应的文本或命令的高技术。统计学习语音识别79%21%自然语言处理自然语言处理=文本处理+机器学习。实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。4、降维算法当然，这些技术都是靠计算机算法实现的。1、回归算法2、神经网络3、SVM（支持向量机）5、推荐算法6、其他AI在我们生活中成功的应用Part32112定义成功隐形服务-让我们意识不到背后有人工智能的服务。方便案例一最常用的就是搜索引擎了，被几十亿人使用，这是人工智能下面信息检索（InformationRetrieval）的应用当然还有推荐系统，也是几十亿人使用：案例二，Ostagram基于GoogleDeepDream算法，把一张图的l颜色过滤到另一张图上。DeepDream基于卷积神经网络（ConvolutionalNeuralNetwork）F(x,y)对应图像的像素点，w（x，y）是卷积核或者叫滤波器模板，卷积计算用以提取图片特征。其特征取决于卷积核的设计。CNN分为卷积层（CONV），池化层（POOL）和全连接层（FC），RELU是一种激活函数。案例三：搜狗快速分享快速分享指在用户聊天环境中智能推荐用户所需内容，方便其分享信息给对方。目前查到的资料显示它融合了大数据分析，w2v扩展，SVR，NER，MLP，RNN等人工智能能分类器及深度学习方法。其技术难点就是语义分析，能够判断用户需要什么内容，而语义分析的核心就是自然语言的处理技术，这也是整个人工智能技术最关键的一部分。案例四：语音识别语音识别就是语音转文字最成功的就用在了微信里，被数亿人使用案例五自然语言处理：最典型的就是AmazonEcho和苹果的Siri，被亿万人使用。IBM的沃森赢得了问答节目《危险边缘》（Jeopardy!）的冠军，引起了巨大轰动（当然更重要的其实还有信息检索等技术）算法训练Part412345神经网络在人工智能中的应用Part5CNNCNN的确是从视觉皮层的生物学上获得启发的大脑中的一些个体神经细胞只有在特定方向的边缘存在时才能做出反应（即放电）。例如，一些神经元只对垂直边缘兴奋，另一些对水平或对角边缘兴奋CNN的第一层通常是卷积层过滤器灰度处理寻找特征计算权值输入→卷积→ReLU→卷积→ReLU→池化→ReLU→卷积→ReLU→池化→全连接一个典型的CNN结构完全连接层：检测高级特征之后，后会输出一个N维向量Thanks