新技术—云计算与大数据

云计算与大数据大数据时代已经悄然到来，如何应对大数据时代所带来的挑战与机遇，是我们当代大学生特别是我们计算机专业学生的一个必须面对的严峻课题。在这次课上通过陶老师的讲解以及在课后查阅相关资料，我了解到什么是大数据，什么是云计算，它们都有什么用处，有什么关系。近几年，云计算和大数据的概念受到了学术界、商界、甚至政府的热传，一时间云计算无处不在。秉承着“按需服务”理念的云计算正高速发展，“数据即资源”的“大数据”时代已经来临。大数据利用对数据处理的实时性、有效性提出来更高要求，需要根据大数据特点对传统的常规数据处理技术进行变革，形成适用于大数据收集、存储、管理、处理、分析、共享和可视化的技术。大数据的规模效应给数据存储和管理以及数据分析带来了极大的挑战。一、云计算概念在课后，经过翻阅各种资料，了解到狭义的云计算是指IT基础设施的交付和使用模式。指通过网络以按需、易扩展的方式获得所需的资源；广义的云计算是指服务的交付和使用模式，指通过网络以按需、易扩展的方式获得所需的服务，这种服务可以是IT和软件、互联网相关的，也可以是任意其他的服务，它具有超大规模、虚拟化、可靠安全等独特功能。通俗的理解是，云计算的“云”就是存在于互联网上的服务器集群上的资源，它包括硬件资源和软件资源，本地计算机只需要通过互联网发送一个需求信息，远端就会有成千上万的计算机为你提供需要的资源并将结果返回到本地计算机。这样，本地计算机几乎不需要做什么，所有的处理都在云计算提供商所提供的计算机群体来完成。KevinHartig：云是一个庞大的资源地，你按需购买；云是虚拟化的；云可以像自来水、电、煤气那样计费。JanPritzker：云计算是用户友好的网络计算。云计算，它是基于数据中心，强调性价比、效率、可行性的服务运营模式，这是提高高端计算利用率，同时提升低端计算事物处理能力，我们不关注本身计算机的能力，更多提供给后台，由于后台强大的处理能力完成。二、云计算部署模式根据云计算服务对象范围的不同，云计算有四种部署模式：私有云、社区云、公有云和混合云。私有云是由一个用户组织（例如政府、军队、企业）建立运维的云计算平台，专供组织内部人员使用，不提供对外服务。社区云也称机构云，云基础设施由多个组织共同提供，平台由多个组织共同管理。社区云被一些组织共享，为一个有共同关注点的社区或大机构提供服务。公有云的基础设施由一个提供云计算服务的大型运营商组织建立和运维，该运营组织一般是拥有大量计算资源的IT巨头，这些IT公司将云计算服务以“按需购买”的方式销售给一般用户或中小企业群体。用户只需将请求提交给云计算系统，付费租用所需的资源和服务。混合云的云基础设施是由两种或两种以上的云组成，每种云仍然保持独立，但用标准的或专用的技术将它们组合起来，具有数据和应用程序的可移植性。三、云计算服务模式计算就要有就算环境，一般计算环境都有硬件的一层，资源组合调度的一层即操作层，以及计算任务的应用业务的软件层。云计算提供的三种服务模式对应了计算环境的三个层面。这三种服务模式分别是基础设施即服务IaaS、软件即服务SaaS、平台即服务PaaS。IaaS即把厂商的由多台服务器组成的“云端”基础设施，作为计量服务提供给客户。它的优点是用户只需低成本硬件，按需租用相应计算能力和存储能力，大大降低了用户在硬件上的开销。目前以Google云应用最具代表性，例如GoogleDocs、GoogleApps、Googlesites。SaaS服务提供商将应用软件统一部署在自己的服务器上，用户根据需求通过互联网向厂商订购应用软件服务，服务提供商根据客户所定软件的数量、时间的长短等因素收费，并且通过浏览器像客户提供软件的模式。对于小型企业来说，SaaS是采用先进技术的最好途径。PaaS把开发环境作为一种服务来提供。PaaS能够给企业或个人提供研发的中间件平台，提供应用程序开发、数据库、应用服务器、试验、托管及应用服务。四、大数据大数据（bigdata），或称巨量资料，就是对全球各种大规模数据资料进行深度挖掘，并进行高速度及多样式计算后，整理出来的高价值的分析结果；重点应用在国防领域建设，未来发展方向在人工智能领域，可以让计算机自主地从经验中进行学习和反馈。个人总结，大数据的特点主要有如下4点：一是大量。存储大，计算量大。二是数据类型多样。现在的数据类型不仅是文本形式，更多的是图片、视频、音频、地理位置信息等多类型的数据，个性化数据占绝对多数。三是处理速度快。增长速度快，处理速度要求快。四是价值密度低。浪里淘沙却弥足珍贵，数据没有办法在可忍受的时间下使用常规软件方法完成存储、管理和处理任务。大数据已经不简简单单是数据大的事实了，而最重要的现实是对大数据进行分析，只有通过分析才能获得很多智能的，深入的，有价值的信息。大数据分析普遍存在的方法理论有：可视化分析、数据挖掘算法、预测性分析、语义引擎、数据质量和数据管理。五、云计算与大数据关系云计算和大数据是这个时代的两个王者，是一个硬币的两面，云计算是大数据的IT基础，而大数据是云计算的一个杀手级应用。张亚勤说，云计算是大数据的驱动力，而另一方面，由于数据越来越多，越来越复杂，越来越实时，这就更加需要云计算去处理，所以二者之间是相辅相成的。本质上，云计算和大数据的关系是静与动的关系；云计算强调的是计算，这是动的概念；数据则是计算的对象，是静的概念。在实际的应用中，前者强调的是计算能力，或者看重的是存储能力；但是这样说，并不意味着两个概念如此泾渭分明。大数据需要处理大数据的能力如数据获取、清洁、转换、统计等，其实就是需要强大的计算能力，另一方面，云计算的动也好是相对而言，比如基础设施即服务中存储设备提供的主要是数据能力，所以可谓是动中有静。如果数据是财富，那么大数据就是宝藏，而云计算就是挖掘和利用宝藏的利器。没有强大的计算能力，数据宝藏终究是镜中花，没有大数据的积淀，云计算也只能是杀鸡用的宰牛刀。六、心得体会通过这次课程的学习，了解到在如此快速到来的大数据革命时代，我们还有很多知识需要学习，许多思维需要转变，许多技术需要研究。职业规划中，也需要充分考虑到大数据对于自身职业的未来发展所带来的机遇和挑战。