深度学习笔记之人工智能、机器学习、深度学习之间的关系

这两年创业圈、技术圈、互联网圈都在热烈讨论人工智能、机器学习、深度学习。那么到底什么是人工智能(AI)、机器学习(ML)和深度学习(DL),这几个概念之间又有什么样的联系呢?首先,我们通过图来理解这三者之间的关系
示意图

机器学习是实现人工智能的方法;
深度学习是实现机器学习的一种技术。

  • 人工智能(Artificial intelligence, AI): 是指人工制造出来的系统所表现出来的智能。通常人工智能是指通过普通电脑实现的智能。人工智能的研究可以分为几个技术问题。其分支领域主要集中在解决具体问题,其中之一是,如何利用各种不同的工具完成特定的应用程序。AI的核心问题包括推理、知识、规划、学习、交流、感知、移动和操作物体的能力等。

    目前有大量的工具应用了人工智能,其中包括搜索和数学优化、逻辑推演。而基于仿生学、认知心理学,以及基于概率论和经济学的算法等等也在逐步探索当中。

  • 机器学习(Machine Learning, ML):是人工智能的一个分支。人工智能的研究是从以“推理”为重点到“知识”为重点,再到以“学习”为重点,一条自然、清晰的脉络。显然,机器学习是实现人工智能的一个途径,即以机器学习为手段解决人工智能重的问题。机器学习在近30年已经发展为一门多领域交叉学科,设计概率论、统计学、逼近轮、凸优化、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中设计到了大量的统计学理论,机器学习与腿短统计学联系尤为密切,也被成为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多推论问题属于无程序难处理,所以部分机器学习研究是开发容易处理的近似算法。

    机器学习有以下几种定义:
    (1)机器学习是一门人工智能的科学,该领域的主要研究对象是人工智能,特别是处理在经验学习中改善具体算法的性能。
    (2)机器学习是对能通过经验自动改进的计算机算法的研究。
    (3)机器学习是用数据或以往的经验,以此优化计算机程序的性能标准。

  • 机器学习已广泛应用于数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测信号卡欺诈、证券市场分析、DNA序列测序、语音和手写识别、战略游戏和机器人等领域。

    深度学习(Deep Learning)是机器学习拉出的分支,它试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。

    深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如:一幅画)可以使用多种方法来表示,如每个像素强度值得向量,或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如:人脸识别或面部表情识别)。深度学习的好处是用无监督式或半监督的特征学习和分层特征提取搞笑算法来替代手工获取特征。