机器学习个人笔记完整版v5.3

黄海广[e-mail]群：654173748摘要本笔记是针对斯坦福大学2014年机器学习课程视频做的个人笔记斯坦福大学2014机器学习教程个人笔记（V5.3）最后修改：2018-08-06斯坦福大学2014机器学习教程中文笔记课程概述课程地址：(机器学习)是研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演绎。在过去的十年中，机器学习帮助我们自动驾驶汽车，有效的语音识别，有效的网络搜索，并极大地提高了人类基因组的认识。机器学习是当今非常普遍，你可能会使用这一天几十倍而不自知。很多研究者也认为这是最好的人工智能的取得方式。在本课中，您将学习最有效的机器学习技术，并获得实践，让它们为自己的工作。更重要的是，你会不仅得到理论基础的学习，而且获得那些需要快速和强大的应用技术解决问题的实用技术。最后，你会学到一些硅谷利用机器学习和人工智能的最佳实践创新。本课程提供了一个广泛的介绍机器学习、数据挖掘、统计模式识别的课程。主题包括：（一）监督学习（参数/非参数算法，支持向量机，核函数，神经网络）。（二）无监督学习（聚类，降维，推荐系统，深入学习推荐）。（三）在机器学习的最佳实践（偏差/方差理论；在机器学习和人工智能创新过程）。本课程还将使用大量的案例研究，您还将学习如何运用学习算法构建智能机器人（感知，控制），文本的理解（Web搜索，反垃圾邮件），计算机视觉，医疗信息，音频，数据挖掘，和其他领域。本课程需要10周共18节课，相对以前的机器学习视频，这个视频更加清晰，而且每课都有ppt课件，推荐学习。我和我的团队翻译了部分视频，目前已经翻译完毕，内嵌中英文字幕，推荐使用potplayer。此外，我无偿把字幕贡献给了网易云课堂，他们开了免费课：吴恩达机器学习。这篇中文笔记，主要是根据视频内容和中文字幕以及ppt来制作，部分来源于网络，如“小小人_V”的笔记，并持续更新。本人水平有限，如有公式、算法错误，请及时指出，发邮件给我，也可以加我qq。今日发现这个笔记被下载超过10万次，应该说这个笔记有点用，我发现以前一些翻译小错误，进行了修改，以免误导初学者。黄海广2018-3-7夜笔记更新网址(视频下载地址公布)：笔记：知乎：◼文档修改历史版本号版本日期修改总结修订人1.02014.12.16创建初稿黄海广1.12014.12.31修改黄海广2.02015.02.17修改黄海广2.12015.02.23修改黄海广2.22015.03.02修改黄海广2.32015.03.14修改一些错误，增加了第十章的一些内容黄海广2.42015.05.02修改第十二章一些错误黄海广2.52015.05.13补充第九章部分内容黄海广3.02016.01.11增加第五章OCTAVE操作内容黄海广3.12016.01.15修改部分错误黄海广3.22016.02.15补充第二章部分内容黄海广3.32016.02.19补充第六章内容黄海广4.02016.02.24修改第十一章一些错误黄海广4.12016.03.20补充第四章部分内容黄海广4.22016.03.28补充第十五章、十六章的部分内容黄海广4.32017.06.08修改了一些翻译错误黄海广4.42017.09.23增加了数学基础和部分公式推导黄海广4.52017.09.30修改了第六章的一些错误（视频有错误）黄海广5.02017.11.3修正了一些数学公式黄海广5.12018.3.29重新规范了变量并对页面排版黄海广5.22018.4.19重新更新了数学公式黄海广I目录第1周..............................................................................................................................................11、引言(Introduction)....................................................................................................11.1欢迎............................................................................................................................11.2机器学习是什么？....................................................................................................41.3监督学习....................................................................................................................61.4无监督学习..............................................................................................................102、单变量线性回归(LinearRegressionwithOneVariable)........................................152.1模型表示..................................................................................................................152.2代价函数..................................................................................................................172.3代价函数的直观理解I............................................................................................192.4代价函数的直观理解II...........................................................................................202.5梯度下降..................................................................................................................212.6梯度下降的直观理解..............................................................................................242.7梯度下降的线性回归..............................................................................................272.8接下来的内容..........................................................................................................293、线性代数回顾(LinearAlgebraReview)...................................................................303.1矩阵和向量..............................................................................................................303.2加法和标量乘法......................................................................................................313.3矩阵向量乘法..........................................................................................................323.4矩阵乘法..................................................................................................................333.5矩阵乘法的性质......................................................................................................343.6逆、转置..................................................................................................................35第2周............................................................................................................................................364、多变量线性回归(LinearRegressionwithMultipleVariables)................................364.1多维特征..................................................................................................................364.2多变量梯度下降......................................................................................................374.3梯度下降法实践1-特征缩放.................................................................................394.4梯度下降法实践2-学习率.....................................................................................