深度学习和机器学习

1©2017TheMathWorks,Inc.MATLAB与人工智能：深度学习有多远？8机器学习9机器学习无处不在▪图像识别▪语音识别▪股票预测▪医疗诊断▪数据分析▪机器人▪更多……[TBD]10什么是机器学习？“猫”训练数据特征提取测试数据机器学习模型：分类机器学习是使用数据，并且创建一个程序来执行任务。11示例：ClassficationMachineLearningSupervisedLearningClassificationRegressionUnsupervisedLearningClustering仅对输入数据进行分组或解释基于输入输出数据开发预测模型学习类型算法类型目标:训练一个分类器，通过传感器手机的数据来区分人的动作数据:方法:–数据输入–交互式训练、并比较分类器结果–利用新的传感器数据测试结果输入三轴加速度计三轴陀螺仪输出14机器学习分类MachineLearningSupervisedLearningClassificationRegressionUnsupervisedLearningClustering仅对输入数据进行分组或解释基于输入输出数据开发预测模型学习类型算法类型LinearRegressionGLMDecisionTreesEnsembleMethodsNeuralNetworksSVR,GPRNearestNeighborDiscriminantAnalysisNaiveBayesSupportVectorMachineskMeans,kmedoidsFuzzyC-MeansHierarchicalNeuralNetworksGaussianMixtureHiddenMarkovModel支持向量机判别分析朴素贝叶斯最近邻线性回归支持向量回归组合方法决策树神经网络K均值分层聚类高斯混合模型神经网络隐马尔科夫模型15选择模型与算法的挑战1.我应该选择哪个算法？2.需要自己开发及其学习算法吗？3.如何比较不同算法的结果？4.如何将新的数据应用到选择的模型？5.在开发过程中如何理解算法？ClassificationLearnerRegressionLearner16使用ClassificationLearnerApp训练一个模型1.导入数据并设置Cross-validation2.数据探索与特征选择3.训练多个模型4.结果比较与评断5.模型分享或自动代码转换17Demo:鸢尾花分类类别：SetosaVersicolorVirginica18深度学习19为什么深度学习如此炙手可热？Source:ILSVRCTop-5ErroronImageNetHumanAccuracy20示例1：使用深度学习实现物体识别Training(GPU)Millionsofimagesfrom1000differentcategoriesPredictionReal-timeobjectrecognitionusingawebcamconnectedtoalaptop21示例2：使用深度学习进行检测和定位RegionswithConvolutionalNeuralNetworkFeatures(R-CNN)SemanticSegmentationusingSegNet22什么是深度学习？猫训练数据测试数据特征提取机器学习模型：分类23什么是深度学习？猫训练数据测试数据ConvolutionalNeuralNetwork(CNN)FeatureLearning&ClassificationConvolutionalNeuralNetwork(CN)FeatureLearningandClassification卷积神经网络(CNN)特征学习与分类24你遇到过什么样的深度学习应用?A.ImageB.VideoC.AudioD.TextE.SensorF.None25结构:卷积神经网络（CNN）▪CNN是理想的图像和视频处理网络▪CNN采用固定大小的输入并生成固定大小的输出▪卷积将输入图像通过一组卷积滤波器，每一个都从图像中激活某些特征26神经网络如何工作？目标形状边缘31深度学习工作流程ProbabilityBoatPlaneCarTrainDeployresults100simages10sclassesTrainingimagesTrainingoptionsTrainnetworkTestimagesTrainedNetworkPredictandassessnetworkaccuracy32示例:利用CNN实现数字识别What?Asetofhandwrittendigitsfrom0-9Why?AneasytaskfordeeplearningbeginnersHowmany?7500trainingimages2500testimagesBestresults?99.72%accuracy=733创建CNNImageInputLayerConvolutionalLayerReLULayerMaxPoolingLayerFullyConnectedLayer34SetTrainingoptions35训练网络BayesianOptimization36深度学习推动者海量已标记的公共数据集GPUs加速性能可获得专家训练出的顶级深度模型AlexNetPRETRAINEDMODELCaffeMODELSResNetPRETRAINEDMODELTensorFlow/KerasMODELSVGG-16PRETRAINEDMODELGoogLeNetPRETRAINEDMODEL3710行MATLAB代码实现深度学习camera=webcam;%Connecttothecamerannet=alexnet;%Loadtheneuralnetwhiletruepicture=camera.snapshot;%Takeapicturepicture=imresize(picture,[227,227]);%Resizethepicturelabel=classify(nnet,picture);%Classifythepictureimage(picture);%Showthepicturetitle(char(label));%Showthelabeldrawnow;end38神经网络工具箱深度学习39训练效率与规模40在MATLAB中训练很快MATLABismorethan4xfasterthanTensorFlowAlexNetCNNarchitecturetrainedontheImageNetdataset,usingbatchsizeof32,onaWindows10desktopwithsingleNVIDIAGPU41在CPU，GPU，多GPU和群集训练深度学习网络MoreGPUsMoreCPUsHOWTOTARGET?42GPUCoder填补我们深入学习解决方案的空白数据获取预处理选择网络训练ImageAcq.ImageProcessingComputerVisionNeuralNetworkParallelComputingGPUCoder部署推断训练TextAnalyticsAutomationDriving43GPU运算更快速10fps30fps45为什么是MATLAB?MATLAB是学生和科研人员最易用、并且最高效的开发平台46深度学习免费教程（2小时）免费教程47更多资源机器学习资源深度学习资源48谢谢