数据管理工作心得体会

数据分析心得体会

在数据分析这门课程当中主要学习了numpy和pandas和数据挖掘的知识，学习过程很充实，也不是很难。

首先学习了Numpy, NumPy(Numerical Python) 是 Python 语言的一个扩展程序库，主要学习了1、矩阵生成，2、矩阵切片，3、轴对换、相乘，4、条件填入（where），5、数据处理。NumPy 是一个运行速度非常快的数学库，主要用于数组计算。

在pandas中有两类非常重要的数据结构，即序列Series和数据DataFrame。Series类似于numpy中的一维数组，除了通吃一维数组可用的函数或方法，而且其可通过索引标签的方式获取数据，还具有索引的自动对齐功能；
DataFrame类似于numpy中的二维数组，同样可以通用numpy数组的函数和方法，而且还具有其他灵活应用。之后学习了数据索引index，包括了通过索引值或索引标签获取数据以及自动化对齐；
此外，pandas模块为我们提供了非常多的描述性统计分析的指标函数，如总和、均值、最小值、最大值等，我们来具体看看这些函数；
在SQL中常见的操作主要是增、删、改、查几个动作，那么pandas能否实现对数据的这几项操作呢？答案是Of Course! 我们发现，不论是删除行还是删除列，都可以通过drop方法实现，只需要设定好删除的轴即可，即调整drop方法中的axis参数。默认该参数为0，表示删除行观测，如果需要删除列变量，则需设置为1。在Excel中有一个非常强大的功能就是数据透视表，通过托拉拽的方式可以迅速的查看数据的聚合情况，这里的聚合可以是计数、求和、均值、标准差等。pandas为我们提供了非常强大的函数pivot_table()，该函数就是实现数据透视表功能的。

数据挖掘的技术与方法相关知识包括：数据挖掘的方法分为描述性与预测性两种。其中描述性数据挖掘指的是分析具有多个属性的数据集，找出潜在的模式和规律，没有因变量。要采用的算法：聚类、关联分析、因子分析、主成分分析等。预测性数据挖掘指的是用一个或多个自变量预测因变量的值。主要算法：决策树、线性回归Logistic回归、支持向量机、神经网络、判别分析。

通过这几天的学习我了解到数据分析的复杂性和难度，想要学好的它，还需要我花费很长时间。

Experience The data structure design subject, it needs to change the theory to the computer debugging.At the beginning of the first leon of the subject, Mr.Lu explained the importance of it for us.It has some difficulty for us.It is a basic subject of other programming languages.Many students say that the data structure is not good to learn, I deeply understand this.When I first started learning, there were a lot of places I didn"t understand.Every time I was in cla, the teacher gave us different design questions.It was a big challenge for us as a beginner.I remember walking through the contents of two trees in a cla, preorder, preorder, and preorder.Teacher Lu said, "the content of this leon is very important.No matter whether you have understood it or not, listen carefully now.".To tell the truth, I didn"t really understand what I had done before, but I listened to the teacher carefully.Preorder traversal is very simple, is the three traversal, the simplest.And in order to traverse, listen to a little fuzzy, after the order traversal, also half understand, half understand, I thought, if the teacher once again, I certainly can understand.Later, the teacher drew a two tree, smoked the students to the blackboard sorting, this two fork tree seems complex, but with first order traversal to row, not difficult.So I lined up in the following, first order, first order traversal, very simple, I am a little complacent, the teacher to the location of the point, I went up the row in the order, go up after a row in a me.Then the teacher spoke again, I just understand, Lu teacher and aured us that the two tree is hard, the order and post order are not good, want to learn that we sort, and ask the students to row out respectively, the teacher also had my name, call me up in order to distinguish the two row row which students answer correctly, I did not hesitate to answer.Because of this content, the first traversal of the two fork tree, the sequence traversal two fork tree, after the order traversal two fork tree, I really understand, for the first time on this cla so succeful sense.Gradually interested in the course.I thought I would never understand the leon.Now I see, and if I listen carefully and try my best, this leon is not difficult.The degree of difficulty of data structure learning depends largely on personal interest.It"s painful to make a task as a task, and it will be fun to do it.Also hope that the teacher can see my change, in this also thank the teacher"s hard teaching.The teacher did not give up on me, several times my name go up, the teacher must see my progre.Later, I listened carefully every cla, although the teacher did not call the roll, but I still listened very seriously.The parents expre the children and the children and the brothers.I can understand them very well.I listen to the lectures almost every cla.Sometimes I also take claes in my spare time to read what I"ve been doing before.So, when I first read the textbooks, I memorize the concepts in mind, and then build a knowledge framework.The data structure includes linear structure, tree structure, graph structure or network structure.Linear structure including linear list, stack, queue, string, array, generalized list, stack and queue is a linear scale is limited, the data object constraint string for character set, and an array of generalized list of linear table: data element in the table is a data structure.In addition to linear tables, the stack is the focus, because the stack is closely related to recursion, and recursion is an important tool in programming.I"ve learned that Stack is a special linear list that can only be inserted and deleted at one end.It stores data in accordance with the principle of "first in, first out".The incoming data is pushed to the bottom of the stack, and the last data pops up from the top of the stack at the top of the stack when it is neceary to read data; A special linear table that allows only deleting operations at the front of the table (front) and inserting operations at the back of the table (rear).The inserted operation end is called the queue tail, and the deleted operation end is called the header.When there is no element in the queue, it is called an empty queue.The list is a discontinuous and non sequential storage structure on the physical storage unit, and the logical order of the data elements is achieved by the order of pointer linking in the linked list.A linked list consists of a series of nodes that can be dynamically generated at run time.Each node consists of two parts: one is the data domain that stores the data elements, and the other is the pointer domain that stores the addre of the next node.Think oneself enter oneself for an examination of the profeional, but also the data structure of this gate, this semester is over, more or le have gained some knowledge.Although the study is not very thorough, I believe that this will help a lot of self exams, so even if I finish the subject, I will not give up learning it.

大数据时代的信息分析平台搭建安装报告

一、平台搭建

描述小组在完成平台安装时候遇到的问题以及如何解决这些问题的，要求截图加文字描述。

问题一：在决定选择网站绑定时，当时未找到网站绑定的地方。解决办法：之后小组讨论后，最终找到网站绑定的地方，点击后解决了这个问题。

问题二：当时未找到TCP/IP属性这一栏

解决办法：当时未找到TCP/IP属性这一栏，通过老师的帮助和指导，顺利的点击找到了该属性途径，启用了这一属性，完成了这一步的安装步骤。

问题三：在数据库这一栏中，当时未找到“foodmartsaleDW”这个文件

解决办法：在数据库这一栏中，当时未找到“foodmartsaleDW”这个文件，后来询问老师后，得知该文件在第三周的文件里，所以很快的找到了该文件，顺利的进行了下一步

问题四：在此处的SQL server的导入和导出向导，这个过程非常的长。

解决办法：在此处的SQL server的导入和导出向导，这个过程非常的长，当时一直延迟到了下课的时间，小组成员经讨论，怀疑是否是电脑不兼容或其他问题，后来经问老师，老师说此处的加载这样长的时间是正常的，直到下课后，我们将电脑一直开着到寝室直到软件安装完为止。

问题五：问题二：.不知道维度等概念，不知道怎么设置表间关系的数据源。关系方向不对

解决办法：百度维度概念，设置好维度表和事实表之间的关系，关系有时候是反的——点击反向，最后成功得到设置好表间关系后的数据源视图。（如图所示）

这个大图当时完全不知道怎么做，后来问的老师，老师边讲边帮我们操作完成的。

问题六：由于发生以下连接问题，无法将项目部署到“localhost”服务器:无法建立连接。请确保该服务器正在运行。若要验证或更新目标服务器的名称，请在解决方案资源管理器中右键单击相应的项目、选择“项目属性”、单击“部署”选项卡，然后输入服务器的名称。”因为我在配置数据源的时候就无法识别“localhost”，所以我就打开数据库属性页面：图1-图2 图一：

图二：

解决办法：解决办法: 图2步骤1：从图1到图2后，将目标下的“服务器” 成自己的SQL SERVER服务器名称行SQL ServerManagement Studio可以）步骤2：点确定后，选择“处理”，就可以成功部署了。

问题七：无法登陆界面如图：

解决方法：尝试了其他用户登陆，就好了

二、心得体会

（1）在几周的学习中，通过老师课堂上耐心细致的讲解，耐心的指导我们如何一步一步的安装软件，以及老师那些简单清晰明了的课件，是我了解了SQL的基础知识，学会了如何创建数据库，以及一些基本的数据应用。陌生到熟悉的过程，从中经历了也体会到了很多感受，面临不同的知识组织，我们也遇到不同困难。

数据隐藏着有价值的模式和信息，在以往的时间才能提取这些信息。如今的各种资源，如硬件、云结构和开源软件使得大数据的处理方法更为方便和廉价。大数据的规模是传统IT架构所面临的直接挑战。要求可扩展的储存和分布方式来完成查询。传统的关系数据库无法处

理大数据的规模。

大数据进修学习内容模板：

LINUX安装，文件系统，系统性能分析 HAdoop学习原理

大数据飞速发展时代，做一个合格的大数据开发工程师，只有不断完善自己，不断提高自己技术水平，这是一门神奇的课程。

2、在学习SQL的过程中，让我们明白了原来自己的电脑可以成为一个数据库，也可以做很多意想不到的事。以及在学习的过程中让我的动手能力增强了，也让我更加懂得了原来电脑的世界是如此的博大精深，如此的神秘。通过这次的学习锻炼了我们的动手能力，上网查阅的能力，。改善了我只会用电脑上网的尴尬处境，是电脑的用处更大。让我们的小组更加的团结，每个人对自己的分工更加的明确，也锻炼了我们的团结协作，互帮互助的能力。

3、如果再有机会进行平台搭建，会比这一次的安装更加顺手。而在导入数据库和报表等方面也可以避免再犯相同的错误，在安装lls时可以做的更好。相信报表分析也会做的更加简单明了有条理。

总结，大数据时代是信息化社会发展必然趋势，在大学的最后一学期里学习了这门课程是我们受益匪浅。让我们知道了大数据大量的存在于现代社会生活中，随着新兴技术的发展与互联网底层技术的革新，数据正在呈指数级增长，所有数据的产生形式，都是数字化。如何收集、管理和分析海量数据对于企业从事的一切商业活动都显得尤为重要。

大数据时代是信息化社会发展必然趋势，我们只有紧紧跟随时代的发展才能在以后的工作生活中中获得更多的知识和经验。

三、结语

叙述小组内每个组员在这次的项目里各自分工和完成情况，组长需给组员打分，10分为满分

心得体会

数据结构是一门纯属于设计的科目，它需用把理论变为上机调试。在学习科目的第一节课起，鲁老师就为我们阐述了它的重要性。它对我们来说具有一定的难度。它是其它编程语言的一门基本学科。

很多同学都说，数据结构不好学，这我深有体会。刚开始学的时候确实有很多地方我很不理解，每次上课时老师都会给我们出不同的设计题目，对于我们一个初学者来说，无疑是一个具大的挑战。

我记得有节课上遍历二叉树的内容，先序遍历、中序遍历、后序遍历。鲁老师说：这节课的内容很重要，不管你以前听懂没有，现在认真听。说实在的，以前上的内容确实没大听懂，不过听了老师的话，我听得很认真。先序遍历很简单，是三个遍历中，最简单的。而中序遍历听得有点模糊，后序遍历也半懂半懂，我心想如果老师再讲一遍，我肯定能听懂。后来老师画了一个二叉树，抽了同学到黑板上去排序，这个二叉树看似复杂，不过用先序遍历来排，并不难。于是我在下面排好了先序，先序遍历很简单，我有点得意，老师到位置上点了我上去排中序，上去之后排得一塌糊涂。后来老师又讲了一遍，我这才听懂了，鲁老师又安慰我们说，这个二叉树有点难，中序和后序都不好排，要学懂的确要花点功夫才行。我听了老师的话，认真做了笔记，回去再看了当天学的内容。第二堂课，老师还是先讲的先前的内容，画了一个简单的二叉树，让我们排序，又叫同学上去分别排出来，老师又点了我的名，叫我起来辨别排中序那两个同学的答案哪个排正确了，我毫不犹豫的答对了。因为这次的内容，先序遍历二叉树、中序遍历二叉树、后序遍历二叉树，我的确真的懂了，第一次上这个课这么有成就感。渐渐的对这门课有了兴趣。我以为永远都听不懂这个课，现在，我明白了，只要认真听，肯下功夫，这个课也没有什么难的。而数据结构学习的难易程度很大程度上决定于个人的兴趣，把一件事情当做任务去做会很痛苦，当做兴趣去做会很快乐。也希望老师能看到我的改变，在此也感谢老师的辛勤教导。老师没有放弃我，几次点我的名上去，老师一定看得到我的进步。

后来，我每节课都认真听课，老师虽然没有点名，但我还是很认真的听。双亲表示法孩子表示法和孩子兄弟表示法，这些内容我都听得很明白，差不多每节课都认真听课。有时我也会在上课空余时间看看以前的内容，所以，第一遍看课本的时候要将概念熟记于心，然后构建知识框架。数据结构包括线性结构、树形结构、图状结构或网状结构。线性结构包括线性表、栈、队列、串、数组、广义表等，栈和队列是操作受限的线性表，串的数据对象约束为字符集，数组和广义表是对线性表的扩展：表中的数据元素本身也是一个数据结构。除了线性表以外，栈是重点，因为栈和递归紧密相连，递归是程序设计中很重要的一种工具。

其中我了解到：栈 (Stack)是只能在某一端插入和删除的特殊线性表。它按照后进先出的原则存储数据，先进入的数据被压入栈底，最后的数据在栈顶，需要读数据的时候从栈顶开始弹出数据; 队列一种特殊的线性表，它只允许在表的前端（front）进行删除操作，而在表的后端（rear）进行插入操作。进行插入的操作端称为队尾，进行删除的操作端称为队头。队列中没有元素时，称为空队列;链表是一种物理存储单元上非连续、非顺序的存储结构，数据元素的逻辑顺序是通过链表中的指针链接次序实现的。链表由一系列结点组成，结点可以在运行时动态生成。每个结点包括两个部分：一个是存储数据元素的数据域，另一个是存储下一个结点地址的指针域。

想着自己报考自考的专业，也会考数据结构这门，这学期就结束了，或多或少都收获了一些知识。尽管学得还不是很透彻，我相信这对自己的自考会有很大的帮助，所以，即使是结束了这科的内容，我也不会放弃去学习它。

大数据心得体会

早在2007年，人类制造的信息量有史以来第一次在理论上超过可用存储空间总量，近几年两者的剪刀差越来越大。2010年，全球数字规模首次达到了“ZB”（1ZB＝1024TB）级别。2012年，淘宝网每天在线商品数超过8亿件。2013年底，中国手机网民超过6亿户。随着互联网、移动互联网、传感器、物联网、社交网站、云计算等的兴起，我们这个社会的几乎所有方面都已数字化，产生了大量新型、实时的数据。无疑，我们已身处在大数据的海洋。

有两个重要的趋势使得目前的这个时代（大数据时代）与之前有显著的差别：其一，社会生活的广泛数字化，其产生数据的规模、复杂性及速度都已远远超过此前的任何时代；
其二，人类的数据分析技术和工艺使得各机构、组织和企业能够以从前无法达到的复杂度、速度和精准度从庞杂的数据中获得史无前例的洞察力和预见性。

大数据是技术进步的产物，而其中的关键是云技术的进步。在云技术中，虚拟化技术乃最基本、最核心的组成部份。计算虚拟化、存储虚拟化和网络虚拟化技术，使得大数据在数据存储、挖掘、分析和应用分享等方面不仅在技术上可行，在经济上也可接受。

在人类文明史上，人类一直执着探索我们处的世界以及人类自身，一直试图测量、计量这个世界以及人类自身，试图找到隐藏其中的深刻关联、运行规律及终极答案。大数据以其人类史上从未有过的庞大容量、极大的复杂性、快速的生产及经济可得性，使人类第一次试图从总体而非样本，从混杂性而非精确性，从相关关系而非因果关系来测量、计量我们这个世界。人类的思维方式、行为方式及社会生活的诸多形态（当然包括商业活动）正在开始发生新的变化。或许是一场革命性、颠覆性的变化。从这个意义上讲，大数据不仅是一场技术运动，更是一次哲学创新。

1 大数据的概述

1.1 大数据的概念

大数据（Big Data）是指那些超过传统数据库系统处理能力的数据。它的数据规模和转输速度要求很高，或者其结构不适合原本的数据库系统。为了获取大数据中的价值，我们必须选择另一种方式来处理它。

数据中隐藏着有价值的模式和信息，在以往需要相当的时间和成本才能提取这些信息。如沃尔玛或谷歌这类领先企业都要付高昂的代价才能从大数据中挖掘信息。而当今的各种资源，如硬件、云架构和开源软件使得大数据的处理更为方便和廉价。即使是在车库中创业的公司也可以用较低的价格租用云服务时间了。

对于企业组织来讲，大数据的价值体现在两个方面：分析使用和二次开发。对大数据进行分析能揭示隐藏其中的信息，例如零售业中对门店销售、地理和社会信息的分析能提升对客户的理解。对大数据的二次开发则是那些成功的网络公司的长项。例如Facebook通过结合大量用户信息，定制出高度个性化的用户体验，并创造出一种新的广告模式。这种通过大数据创造出新产品和服务的商业行为并非巧合，谷歌、雅虎、亚马逊和Facebook，它们都是大数据时代的创新者。

1.2 大数据的三层关系

第一层关系：数据与机器的关系。大数据纪元刚开始，产业界碰到的第一个核心问题就是“大”的问题。做了几十年的数据仓库甚至海量并行处理的数据库都不能处理那么大的数据，怎么办？需要范式切换。主要有三个方面，新型的数据与机器关系当中的第一条就是重新考虑架构与算法，重新考虑舍得，有舍才能得，天下没有免费的午餐，所以必须要舍弃一些，得到一些新的。必须舍弃贵族化的高端小型机和UNIX服务器，得到平民化的更大量的X86服务器。通过这样一种可横向、可水平扩展服务器处理每两年翻番的数据量的挑战。第二个舍得是舍弃硬件的可靠性和可用性，得到软件的可靠性和可用性。这也就是谷歌三大论文以及Hadoop的核心重点。第三个舍得是舍弃传统数据库的强一致性，获得更放松一致性、可扩展架构，如NoSQL。第四个舍得是传统算法强调非常严格的精确性，现在要放弃一些精确性，通过近似、采样这种方式来获得更好的扩展性。

最早大数据的处理范式是Mapreduce的批量处理，英特尔慢慢有其他的需求，实时的流处理、多迭代的处理、图计算、即时查询等等新的范式百花齐放，最后万法归宗。刚才王斌老师将讲的SAP的HANA本身就是数据管理和分析的融合，现在非常流行的Hadoop之后的SPARK，就是把前面的各种范式进行了融合。

存储与内存的消长，大数据第一个要解决把数据存储下来，后来发现要把它放到大的内存里进行处理，获得实时性，接着在存储和内存之间现在又出现了闪存，有闪存化甚至全闪存的存储，也有闪存化的内存，把所有的计算在闪存里面处理，已经被微软、Facebook等等大量使用。大家可以预期，两年以后出现新的非易失性的闪存，它的速度可能要比闪存快几百倍，和内存相似，这又会极大地颠覆数据与机器的关系。

第二层关系：数据与人的关系。主要是价值的觉醒，如果数据不能产生价值它可能是负面资产。数据怎么能够给人带来价值？我们介绍一下它的价值维度，把它映射到二维的时空象限里，用六个关键词来描述它。第一是“Volume”，两个关键词，小数据见微对个人进行刻划，大数据知著能够了解宏观规律，它是空间概念，同时也是时间概念，数据刚刚产生的时候，它的个性化价值、见微的价值最大，而随着时间的推移，它渐渐退化到只有集合价值。第二是Velocity，时间轴的原点是当下实时价值，副轴是过往，正轴是预测未来，如果知道知前后就能够做到万物的皆明。第三是Variety，多源异质的数据，能够过滤噪声、查漏补缺、去伪存真，就是辩讹。还有晓意，能够从大量的非结构化数据中获得语意，从而能够使机器窥探人的思维境界，这六个价值维度怎么去实现？主要是两部分人，一是数据科学家要洞察数据，另外一个是终端用户和领域专家要去解读数据并利用数据。首先看洞察数据，数据科学，人和机器作用发生了消长，讲个例子，机器学习大家觉得是机器的问题，其实人在里面起到很重要的作用，尤其是机器学习是模型加特征，而特征工程是一个人力工程，你要有经验非常丰富的特征团队去死磕特征，找出更好、更多的特征，才能够使机器学习的效果更好。但是现在深度学习这些新技术出来，能够用机器学习特征，能够在大量非结构化数据中找到丰富的信息维度用特征表达出来，这远远超出了人的能力。大家知道黑客帝国描述了一个场景，人脑袋后面插一个插头，给机器提供营养，我可能不会那么悲观，但是像这样的互动关系以一种更良性的方式出现了，现在人的一言一行、社交行为、金融行为都已经成为机器的养料、机器的数据，使得机器获得更好的洞察。

终端用户需要更好地、更傻瓜化的分析工具和可视化工具，两年前我去参加大数据的会，基本上都是Hadoop和NoSQL现在大家参加大数据会可以看到清一色的分析工具和可视化工具。大数据跟各行各业的化学作用正在发生。如果马化腾说“互联网+”是互联网与各行各业的加法效应，那么大数据将与各行各业产生乘法效应。

第三个关系，数据与数据的关系。现在只有海面平的数据是搜索引擎可以检索到，深海的数据可能是黑暗的数据，在政府、在企业里大家看不到。我们怎么办呢？必须让数据发现数据。只有让数据能够发现数据、遇到数据，才能产生金风玉露一相逢、便胜却人间无数的效果。这里有三个重要的观念，需要法律、技术、经济理论和实践上配合。法律上要明确数据的权利，数据所有权，数据的隐私权，什么数据不能给你看；
数据的许可权，什么数据是可以给你看的；
数据的审计权，我给你看了以后，你是不是按照许可的范围去看；
数据的分红权。数据像原油又不同于原油，原油用完了就没有了，数据可以反复地产生价值，因此数据的拥有者应该得到分红。我们要保证数据的开放、共享、交易。

公共数据和部分科研数据要开放，开放过程中注意保护隐私。企业之间可以进行数据的点对点共享，最高境界是不丢失数据的所有权和隐私权的前提下共享，这里有多方安全计算的概念。1982年姚期智老先生提出了百万富翁的窘境的问题，两个百万富翁他们想要比谁更富，但是谁都不愿意说出来自己都多少钱，在我们的数据共享当中要通过各种各样的技术达到这样的效果。还有数据交易，建立多边多边平台来支持数据交易。

互联网能发展起来经济学理论和实践是很重要的支撑，梅特卡夫定律决定了一个互联网公司的价值，跟它用户数的平方成正比，又比如说谷歌请最好的经济学家，它的一个广告业务的核心就是建立在一个非常先进的拍卖经济学的模型基础上。数据经济也需要这样一些基础的理论，比如数据定价和信息定价不一样，信息做一个咨询报告5000美金卖给你，可以卖给所有人。但数据对不同的单位价值不一样，可能我之毒药是彼之蜜糖。另外估值，一个企业拥有大量的数据，是无形资产的一部分，对于企业的市场价值带来了多大的增长。

1.3 大数据的四个特性

大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。这也是一个描述性的定义，在对数据描述的基础上加入了处理此类数据的一些特征，用这些特征来描述大数据。当前，较为统一的认识是大数据有四个基本特征: 数据规模大( Volume) ，数据种类多( Variety) ，数据要求处理速度快( Velocity) ，数据价值密度低( Value) ，即所谓的四V 特性。

数据规模大( Volume)：企业面临着数据量的大规模增长。例如，IDC最近的报告预测称，到2020年，全球数据量将扩大50倍。目前，大数据的规模尚是一个不断变化的指标，单一数据集的规模范围从几十TB到数PB不等。简而言之，存储1PB数据将需要两万台配备50GB硬盘的个人电脑。此外，各种意想不到的来源都能产生数据。

数据种类多( Variety)：一个普遍观点认为，人们使用互联网搜索是形成数据多样性的主要原因，这一看法部分正确。然而，数据多样性的增加主要是由于新型多结构数据，以及包括网络日志、社交媒体、互联网搜索、手机通话记录及传感器网络等数据类型造成。其中，部分传感器安装在火车、汽车和飞机上，每个传感器都增加了数据的多样性。

处理速度快( Velocity)：高速描述的是数据被创建和移动的速度。在高速网络时代，通过基于实现软件性能优化的高速电脑处理器和服务器，创建实时数据流已成为流行趋势。企业不仅需要了解如何快速创建数据，还必须知道如何快速处理、分析并返回给用户，以满足他们的实时需求。根据IMS Research关于数据创建速度的调查，据预测，到2020年全球将拥有220亿部互联网连接设备。

数据价值密度低( Value)：大数据具有多层结构，这意味着大数据会呈现出多变的形式和类型。相较传统的业务数据，大数据存在不规则和模糊不清的特性，造成很难甚至无法使用传统的应用软件进行分析。传统业务数据随时间演变已拥有标准的格式，能够被标准的商务智能软件识别。目前，企业面临的挑战是处理并从各种形式呈现的复杂数据中挖掘价值。

1.4 大数据的三个特征

除了有四个特性之外，大数据时代的数据还呈现出其他三个特征。

第一个特征是数据类型繁多。包括网络日志、音频、视频、图片、地理位置信息等等，多类型的数据对数据的处理能力提出了更高的要求.

第二个特征是数据价值密度相对较低。如随着物联网的广泛应用，信息感知无处不在，信息海量，但价值密度较低，如何通过强大的机器算法更迅速地完成数据的价值“提纯”，是大数据时代亟待解决的难题。

第三个特征是处理速度快，时效性要求高。这是大数据区分于传统数据挖掘最显著的特征。

2 大数据的技术与处理

2.1 大数据的技术

1.数据采集：ETL工具负责将分布的、异构数据源中的数据如关系数据、平面数据文件等抽取到临时中间层后进行清洗、转换、集成，最后加载到数据仓库或数据集市中，成为联机分析处理、数据挖掘的基础。

2.数据存取：关系数据库、NOSQL、SQL等。

3.基础架构：云存储、分布式文件存储等。

4.数据处理：自然语言处理(NLP，NaturalLanguageProceing)是研究人与计算机交互的语言问题的一门学科。处理自然语言的关键是要让计算机"理解"自然语言，所以自然语言处理又叫做自然语言理解(NLU，NaturalLanguage Understanding)

，

也

称

为

计

算

语

言

学(Computational Linguistics。一方面它是语言信息处理的一个分支，另一方面它是人工智能(AI, Artificial Intelligence)的核心课题之一。

5.统计分析：假设检验、显著性检验、差异分析、相关分析、T检验、方差分析、卡方分析、偏相关分析、距离分析、回归分析、简单回归分析、多元回归分析、逐步回归、回归预测与残差分析、岭回归、logistic回归分析、曲线估计、因子分析、聚类分析、主成分分析、因子分析、快速聚类法与聚类法、判别分析、对应分析、多元对应分析（最优尺度分析）、bootstrap技术等等。

6.数据挖掘：分类 （Claification）、估计（Estimation）、预测（Prediction）

、

相

关

性

分

组

或

关

联

规

则（Affinity grouping or aociation rules）、聚类（Clustering）、描述和可视化、Description and Visualization）、复杂数据类型挖掘(Text, Web ,图形图像，视频，音频等)。

7.模型预测：预测模型、机器学习、建模仿真。

8.结果呈现：云计算、标签云、关系图等。

2.2 大数据的处理

1.采集 大数据的采集是指利用多个数据库来接收发自客户端（Web、App或者传感器形式等）的数据，并且用户可以通过这些数据库来进行简单的查询和处理工作。比如，电商会使用传统的关系型数据库MySQL和Oracle等来存储每一笔事务数据，除此之外，Redis和MongoDB这样的NoSQL数据库也常用于数据的采集。

在大数据的采集过程中，其主要特点和挑战是并发数高，因为同时有可能会有成千上万的用户来进行访问和操作，比如火车票售票网站和淘宝，它们并发的访问量在峰值时达到上百万，所以需要在采集端部署大量数据库才能支撑。并且如何在这些数据库之间进行负载均衡和分片的确是需要深入的思考和设计。

2.导入/预处理

虽然采集端本身会有很多数据库，但是如果要对这些海量数据进行有效的分析，还是应该将这些来自前端的数据导入到一个集中的大型分布式数据库，或者分布式存储集群，并且可以在导入基础上做一些简单的清洗和预处理工作。也有一些用户会在导入时使用来自Twitter的Storm来对数据进行流式计算，来满足部分业务的实时计算需求。

导入与预处理过程的特点和挑战主要是导入的数据量大，每秒钟的导入量经常会达到百兆，甚至千兆级别。

3.统计/分析

统计与分析主要利用分布式数据库，或者分布式计算集群来对存储于其内的海量数据进行普通的分析和分类汇总等，以满足大多数常见的分析需求，在这方面，一些实时性需求会用到EMC的GreenPlum、Oracle的Exadata，以及基于MySQL的列式存储Infobright等，而一些批处理，或者基于半结构化数据的需求可以使用Hadoop。

统计与分析这部分的主要特点和挑战是分析涉及的数据量大，其对系统资源，特别是I/O会有极大的占用。

4.挖掘

与前面统计和分析过程不同的是，数据挖掘一般没有什么预先设定好的主题，主要是在现有数据上面进行基于各种算法的计算，从而起到预测（Predict）的效果，从而实现一些高级别数据分析的需求。比较典型算法有用于聚类的Kmeans、用于统计学习的SVM和用于分类的NaiveBayes，主要使用的工具有Hadoop的Mahout等。该过程的特点和挑战主要是用于挖掘的算法很复杂，并且计算涉及的数据量和计算量都很大，常用数据挖掘算法都以单线程为主。

整个大数据处理的普遍流程至少应该满足这四个方面的步骤，才能算得上是一个比较完整的大数据处理。

3 大数据的应用

正如诸多文献所谈到的，大数据对许多行业的影响和冲击已经呈现。例如，商零售、物流、医药、文化产业等。金融，作为现代经济中枢，其实也已透出了大数据金融的曙光。

过去的2013年，中国金融界热议最多的或许是互联网金融，更有人指出2013年是中国互联网金融元年。确实，第三方支付、P2P、网贷、众筹融资、余额宝、微信支付等发展迅速。众多传统金融业者也或推出自己的电商平台，或与互联网企业联手提供相应的金融产品和服务。

互联网金融，无论是业界、监管者或理论界，都在试图给出自己的理解和定义。但到目前为止，尚未有一个统一的、规范的概念。在我看来，互联网金融本来就是一个不确切的概念，也不可能有一个明确的定义。严格说来，所谓互联网金融只是大数据金融的一种展现或形态。换言之，前者是表，后者是里。

这是因为，无论是互联网还是金融业，其实质都是大数据（信息）。首先，对互联网企业而言，流量、客户等数据（信息）是其涉足金融业的基石。对金融企业而言，提供中介服务，撮合金融交易也是以数据（信息）为基础。其次，没有大数据技术的支撑，所谓互联网金融也难以快速、持续成长。20世纪90年代互联网浪潮的蓬勃兴起，至今已近二十年。但从世界范围看，所谓互联网金融却发展缓慢。当然，其中原因很多，但其主要原因则是大数据技术是近几年才快速发展起来的。最后，从金融企业来看，在数据中心建设，软硬件系统建设，数据（信息）挖掘、分析等方面也是做得有声有色，其庞大的客户数据、海量交易记录及众多信息源，使其在大数据应用方面也做了许多积极探索。因此，要准确反映近年新金融趋势，“大数据金融”比“互联网金融”更为贴切。

4 大数据应用中的三大难题 近年来，大数据这个词成为互联网领域关注度最高的词汇，时至今日，大数据已经不再是IT圈的“专利”了，从去年的春晚，到刚刚过去的两会，都能见到它的身影，但实际上春晚与两会的数据都只能叫做小数据，它与真正的大数据还相差甚远。即便如此，数据所产生的价值已经被人们所认知。

就大数据来说，它的发展可以分成三个阶段，第一个阶段是组织内部的数据，这些数据通常都是结构化的数据，我们一般将这些数据进行分类、排序等操作，将相同类型的数据进行对比、分析、挖掘，总而言之基本上都是统计工作。到了第二阶段，数据的范围扩大到行业内，各种各样的应用数据出现，数据量大规模增长，尤其是非结构化数据的出现。典型的像视频、图片这一类的数据，在这一阶段的特点就是非结构化和结构化数据并存，且数据量巨大，要对这些数据进行分析是我们目前现阶段所处在的状态。

第三阶段则是未来大数据发展的理想化状态，首先它一定是跨行业的，且数据的范围是整个社会。通过对这些数据进行分析加以使用，将直接改变我们的生活方式，这也是现在很多企业所设想的未来交通、医疗、教育等领域的发展方向。

1.大数据太大不敢用

第三个阶段是我们所憧憬的，但在我们所处的第二阶段面对的更多是问题。其中的一个问题就是“大”。大数据给人最直观的感受就是大，它所带来的问题不仅仅是存储，更多的是庞大的数据没办法使用，以交通为例，从2001年开始在北京的主干道上都增设了一些卡口设备，到了今天基本上大街小巷都能看到。

这些设备每天所拍摄的视频及照片产生的数据量是惊人的，仅照片每天就能产生2千万张，而解决这些数据的存储只是最基本的任务，我们更需要的是使用这些数据。例如对套牌车辆的检查，对嫌疑车辆的监控，当你想要使用这些数据的时候，传统的数据库以及系统架构，放进这么庞大的数据，是根本跑不动的。这一问题导致很多企业对大数据望而却步。

2.大数据太难不会用

说到大数据的使用，自然离不开Hadoop，Hadoop本身提供了分布式系统中两个最重要的东西：分布式存储（HDFS）和分布式计算（Mapreduce）。这两者解决了处理大数据面临的计算和存储问题，但更为重要的是，为开发大数据应用开辟了道路。

Hadoop是目前解决大数据问题最流行的一种方式，但其仍然有不成熟的地方，曾作为雅虎云计算以及Facebook软件工程师的Jonathan Gray就表示：“Hadoop实施难度大，且复杂，如果不解决技术复杂性问题，Hadoop将被自己终结。”正是由于这样的原因，Gray创办了自己的公司——Continuuity，这家公司的目标就是在Hadoop和Hbase基础上创建一个抽象层，屏蔽掉Hadoop底层技术的复杂性。由此可见想要用好大数据又是一大考验。

3.大数据太贵用不起

Hadoop的特点就是让你可以使用廉价的x86设备来完成大数据的业务，但事实上如果你真想要用它来完成某些商业任务你还得是个“土豪”。在国外那些使用大数据的成功案例里，亚马逊曾给出过这样一组数字，NASA需要为45天的数据存储服务支付超过100万美元。像Quant___cast这样的数字广告公司，同样也是花费了巨额的资金用在Hadoop技术上，来根据自己的需求定制系统。从上面两个案例来看用于商业用途的大数据现阶段还是很费钱的，随着大数据软件环境逐渐成熟，开发工具增多，价格在未来会逐渐降低。

从上面罗列的这三点困难，其实并不是要给大数据泼冷水，而是想说大数据想要淘金并不简单，首先在做大数据之前，好好盘点一下自己拥有的资源，不仅仅是数据资源，还包括知识与技能。确定了自己的能力之后，选择一个能够发挥你现有资源最大价值的项目。如果你需要帮手，应先考虑商业顾问，再考虑技术人才。为了解答一个生意上的困惑花下的钱，叫作投资，而把钱投到一个拥有特殊技能的IT人才身上，那就叫沉没成本。当你有了这些之后，选择更灵活且可扩展的工具，为以后的扩充打好基础。更重要的是——从小规模做起。

5 大数据创新的驱动力

计算机科学与技术的发展使得大规模信息处理基础设施产生重要改变。在过去的30年中，经典的数据库管理系统（DBMS）在处理大规模数据方面与时俱进，在企业数据处理等方面得到广泛应用。数据库研究和技术进展主要集中在数据建模、描述性查询语言、事务处理和数据库可靠性等。在这个过程中，相关的数据仓库和数据挖掘分析技术也成为一个热点研究方向；
人们认识到数据处理过程中的信息可以被有效整理和分析来支持以数据为中心的决策支持。

数据库管理系统在目前的互联网时代继续占据了重要地位。在一个典型的互联网服务系统架构中，数据库管理系统和Web服务器及应用服务共同作用，为互联网用户提供各类信息和服务。在这个系统架构中，人们期望系统能支持无限次和高速的互联网用户访问，这个时候数据库层由于在硬件可扩展性上面的不足可能成为系统性能瓶颈。这个挑战我们称为大数据问题 （big data problem）。大数据系统期望能对大规模异构复杂数据建模，进行实时分析；
传统的商用数据库系统很难提供良好的解决方案。另一个大数据相关的挑战是服务器端数据中心的数据维护及安全隐私问题。近年来云计算技术已经成为大数据中心的一种可靠解决方案，Google, Yahoo and Microsoft等公司也纷纷开发自己的云计算系统。尽管云计算在互联网应用中已经体现出很多优越性，其在系统成熟性、可用性等方面还有很大提高空间。

显而易见，大数据领域的大规模数据管理和复杂数据分析已经成为新的研究前沿。目前的各类大数据应用正是大数据研究的驱动力，比如社会网络、移动计算、科学应用等等。这些应用产生的大数据往往具有海量、时序动态性、多样等特性，给数据库领域的各项技术带来巨大挑战，涵盖包括数据获取、组织管理、分析处理和应用呈现等整个数据管理生命周期。针对数据管理和分析不同系统应用，各类大数据处理技术在也不断发展。MapReduce作为一种分布式的数据处理框架由于其灵活性、可扩展性、高效和容错等特性其近年来得到了广泛应用。此外，也有多类其他分布式数据处理系统用来解决MapReduce不擅长的问题，比如交互式分析、图计算和分析、实时和流处理、通用数据处理等等。大数据不但给数据库研究领域，同时也给体系结构、存储系统、系统软件和软件工程等计算机多个学科带来了很多机会和挑战。大数据正是目前很多计算机科学问题的根本，并驱动众多新科技的发展。

6 大数据的发展前景

大数据的概念来源于、发展于美国，并向全球扩展，必将给我国未来的科技与经济发展带来深远影响。根据IDC 统计，目前数据量在全球比例为: 美国32%、西欧19%、中国13%，预计到2020 年中国将产生全球21% 的数据，我国是仅次于美国的数据大国，而我国大数据方面的研究尚处在起步阶段，如何开发、利用保护好大数据这一重要的战略资源，是我国当前亟待解决的问题。

而大数据未来的发展趋势则从以下几个方面进行：

（1）开放源代码

大数据获得动力，关键在于开放源代码，帮助分解和分析数据。Hadoop 和NoSQL 数据库便是其中的赢家，他们让其他技术商望而却步、处境很被动。毕竟，我们需要清楚怎样创建一个平台，既能解开所有的数据，克服数据相互独立的障碍，又能将数据重新上锁。

（2）市场细分

当今，许多通用的大数据分析平台已投入市场，人们同时期望更多平台的出现，可以运用在特殊领域，如药物创新、客户关系管理、应用性能的监控和使用。若市场逐步成熟，在通用分析平台之上，开发特定的垂直应用将会实现。但现在的技术有限，除非考虑利用潜在的数据库技术作为通用平台 ( 如Hadoop、NoSQL)。人们期望更多特定的垂直应用出现，把目标定为特定领域的数据分析，这些特定领域包括航运业、销售业、网上购物、社交媒体用户的情绪分析等。同时，其他公司正在研发小规模分析引擎的软件套件。比如，社交媒体管理工具，这些工具以数据分析做为基础。

（3）预测分析

建模、机器学习、统计分析和大数据经常被联系起来，用以预测即将发生的事情和行为。有些事情是很容易被预测的，比如坏天气可以影响选民的投票率，但是有些却很难被准确预测。例如，中间选民改变投票决定的决定性因素。但是，当数据累加时，我们基本上有能力可以大规模尝试一个连续的基础。网上零售商重新设计购物车，来探索何种设计方式能使销售利润最大化。根据病人的饮食、家族史和每天的运动量，医生有能力预测未来疾病的风险。当然，在人类历史的开端，我们就已经有各种预测。但是，在过去，许多预测都是基于直觉，没有依靠完整的数据集，或者单单靠的是常识。当然，即便有大量数据支撑你的预测，也不表明那些预测都是准确的。2007 年和2008 年，许多对冲基金经理和华尔街买卖商分析市场数据，认为房地产泡沫将不会破灭。根据历史的数据，可以预测出房地产泡沫即将破裂，但是许多分析家坚持原有的观点。另一方面，预测分析在许多领域流行起来，例如欺诈发现( 比如在外省使用信用卡时会接到的诈骗电话)，保险公司和顾客维系的风险管理。

7 结语

大数据正在以不可阻拦的磅礴气势，与当代同样具有革命意义的最新科技进步 (如纳米技术、生物工程、全球化等)一起，揭开人类新世纪的序幕。可以简单地说，以往人类社会基本处于蒙昧状态中的不发展阶段，即自然发展阶段。现在，这一不发展阶段随着2012年的所谓“世界末日”之说而永远成为了过去。大数据宣告了21世纪是人类自主发展的时代，是不以所谓“上帝”的意志为转移的时代，是“上帝”失业的时代。

对于地球上每一个普通居民而言，大数据有什么应用价值呢?只要看看周围正在变化的一切，你就可以知道，大数据对每个人的重要性不亚于人类初期对火的使用。大数据让人类对一切事物的认识回归本源;大数据通过影响经济生活、政治博弈、社会管理、文化教育科研、医疗保健休闲等等行业，与每个人产生密切的联系。

大数据技术离你我都并不遥远，它已经来到我们身边，渗透进入我们每个人的日常生活消费之中，时时刻刻，事事处处，我们无法逃遁，因为它无微不至：它提供了光怪陆离的全媒体，难以琢磨的云计算，无法抵御的仿真环境。大数据依仗于无处不在的传感器，比如手机、发带，甚至是能够收集司机身体数据的汽车，或是能够监控老人下床和行走速度与压力的“魔毯”(由GE与Intel联合开发)，洞察了一切。通过大数据技术，人们能够在医院之外得悉自己的健康情况;而通过收集普通家庭的能耗数据，大数据技术给出人们切实可用的节能提醒;通过对城市交通的数据收集处理，大数据技术能够实现城市交通的优化。

随着科学技术的发展，人类必将实现数千年的机器人梦想。早在古希腊、古罗马的神话中就有冶炼之神用黄金制造机械仆人的故事。《论衡》中也记载有鲁班曾为其母巧公制作一台木马车，“机关具备，一驱不还”。而到现代，人类对于机器人的向往，从机器人频繁出现在科幻小说和电影中已不难看出。公元2035年，智能型机器人已被人类广泛利用，送快递、遛狗、打扫卫生……这是电影《我，机器人》里描绘的场景。事实上，今天人们已经享受到了部分家用智能机器人给生活带来的便利。比如，智能吸尘器以及广泛应用于汽车工业领域的机器手等等。有意思的是，2010年松下公司专门为老年人开发了“洗发机器人”，它可以自动完成从涂抹洗发水、按摩到用清水洗净头发的全过程。未来的智能机器人不会是电影《变形金刚》中的庞然大物，而会越来越小。目前，科学家研发出的智能微型计算机只和雪花一样大，却能够执行复杂的计算任务，将来可以把这些微型计算机安装在任何物件上用以监测环境和发号施令。随着大数据时代的到来和技术的发展，科技最终会将我们带进神奇的智能机器人时代。

在大数据时代，人脑信息转换为电脑信息成为可能。科学家们通过各种途径模拟人脑，试图解密人脑活动，最终用电脑代替人脑发出指令。正如今天人们可以从电脑上下载所需的知识和技能一样，将来也可以实现人脑中的信息直接转换为电脑中的图片和文字，用电脑施展读心术。2011年，美国军方启动了“读心头盔”计划，凭借读心头盔，士兵无需语言和手势就可以互相“阅读”彼此的脑部活动，在战场上依靠“心灵感应”，用意念与战友互通讯息。目前，“读心头盔”已经能正确“解读”45%的命令。随着这项“读心术”的发展，人们不仅可以用意念写微博、打电话，甚至连梦中所见都可以转化为电脑图像。据美国《纽约时报》报道，奥巴马政府将绘制完整的人脑活动地图，全面解开人类大脑如何思考、如何储存和检索记忆等思维密码作为美国科技发展的重点，美国科学家已经成功绘出鼠脑的三维图谱。2012年，美国IBM计算机专家用运算速度最快的96台计算机，制造了世界上第一个“人造大脑”，电脑精确模拟大脑不再是痴人说梦。试想一下，如果人类大脑实现了数据模拟，或许你的下一个BOSS是机器人也不一定。

总而言之，大数据技术的发展有可能解开宇宙起源的奥秘。因为，计算机技术将一切信息无论是有与无、正与负，都归结为0与1，原来一切存在都在于数的排列组合，在于大数据。

心得体会

这次数据挖掘实验结束了，期间我们小组明确分工并积极去完成，虽然有点辛苦，但我感觉充实而有收获感！

根据老师给的一些资料，我们决定采用SQL Server 2000中的Northwind数据库里的数据作为我们的实验数据。根据表Order Details中的数据，我们分别根据ProductID和OrderID字段，并结合我们规定的最小支持度阀值对数据进行筛选。依次筛选出1项频繁集、2项频繁集和3项频繁集，其中还会使用游标的方式来遍历2项集与3项集的候选集，分别选出2项频繁集和3项频繁集。

由于数据较多，因此过程比较复杂，要编写很多的查询语句，建立许多数据表，包括临时表。开始不知道则操作，但经过我们各自多次重复的建表与查询，逐渐的理解和有了自己的思路。尤其是在运用游标的方法进行遍历这块，因为我们比较陌生而不理解，操作时一时无法实现结果，但经过我们在网上查询了解相关知识，最终得以解决。

经过该次实验，使我对数据库的操作更加熟练，而且还使我对课本上的“挖掘频繁模式”这块知识有了很好的掌握，今后我会多做实验，使我在实际操作过程中学得更好！

大数据时代心得体会（共15篇）

教学管理课程心得体会（共6篇）

工程管理心得体会（共17篇）

餐饮管理工作心得体会（共17篇）

行政管理工作心得体会（共18篇）