2024年末于有人把云计算、大数据和 AI 讲明白了，2024年最新妈妈再也不用担 ...

网上学习资料一大堆，但假如学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
需要这份系统化的资料的朋侪，可以添加戳这里获取
一个人可以走的很快，但一群人才能走的更远！岂论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都接待参加我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、口试辅导），让我们一起学习成长！
这是集装箱“封装”、“尺度”两大特点在生活中的应用。

那么容器如何对应用打包呢？还是要学习集装箱，起主要有个封闭的环境，将货物封装起来，让货物之间互不干扰，相互隔离，这样装货卸货才方便。好在 Ubuntu中的LXC技术早就能做到这一点。
封闭的环境主要利用了两种技术，一种是看起来是隔离的技术，称为 Namespace，也即每个 Namespace中的应用看到的是不同的 IP地点、用户空间、程号等。另一种是用起来是隔离的技术，称为 Cgroups，也即明显整台呆板有很多的 CPU、内存，而一个应用只能用其中的一部门。
所谓的镜像，就是将你焊好集装箱的那一刻，将集装箱的状态生存下来，就像孙悟空说：“定”，集装箱内里就定在了那一刻，然后将这一刻的状态生存成一系列文件。这些文件的格式是尺度的，谁看到这些文件都能还原其时定住的那个时候。将镜像还原成运行时的过程（就是读取镜像文件，还原那个时候的过程）就是容器运行的过程。
有了容器，使得 PaaS层对于用户自身应用的自动摆设变得快速而优雅。
三、大数据拥抱云计算
在PaaS层中一个复杂的通用应用就是大数据平台。大数据是如何一步一步融入云计算的呢？
3.1 数据不大也包含聪明
一开始这个大数据并不大，你想象原来才有多少数据？现在各人都去看电子书，上网看消息了，在我们80后小时候，信息量没有那么大，也就看看书，看看报，一个星期的报纸加起来才有多少字啊，假如你不在一个大城市，一个平凡的学校的图书馆加起来也没几个书架，是后来随着信息化的到来，信息才会越来越多。
起首我们来看一下大数据内里的数据，就分三种范例，一种叫结构化的数据，一种叫非结构化的数据，还有一种叫半结构化的数据。什么叫结构化的数据呢？叫有固定格式和有限长度的数据。例如填的表格就是结构化的数据，国籍：中华人民共和国，民族：汉，性别：男，这都叫结构化数据。现在越来越多的就是非结构化的数据，就是不定长，无固定格式的数据，例如网页，有时候非常长，有时候几句话就没了，例如语音，视频都是非结构化的数据。半结构化数据是一些xml或者html的格式的，不从事技术的可能不了解，但也没有关系。
数据怎么样才能对人有用呢？着实数据自己不是有用的，必须要经过一定的处置惩罚。例如你每天跑步带个手环收集的也是数据，网上这么多网页也是数据，我们称为Data，数据自己没有什么用处，但是数据内里包含一个很重要的东西，叫做信息Information，数据十分杂乱，经过梳理和洗濯，才能够称为信息。信息会包含很多规律，我们需要从信息中将规律总结出来，称为知识knowledge，知识改变运气。信息是很多的，但是有人看到了信息相称于白看，但是有人就从信息中看到了电商的未来，有人看到了直播的未来，以是人家就牛了，你假如没有从信息中提取出知识，天天看朋侪圈，也只能在互联网滚滚大潮中做个看客。有了知识，然后利用这些知识去应用于实战，有的人会做得非常好，这个东西叫做聪明intelligence。有知识并不一定有聪明，例如好多学者很有知识，已经发生的事变可以从各个角度分析的头头是道，但一到实干就歇菜，并不能转化成为聪明。而很多的创业家之以是巨大，就是通过得到的知识应用于实践，末了做了很大的生意。
以是数据的应用分这四个步调：数据，信息，知识，聪明。这是很多商家都想要的，你看我收集了这么多的数据，能不能基于这些数据来帮我做下一步的决策，改善我的产品，例如让用户看视频的时候旁边弹出广告，正好是他想买的东西，再如让用户听音乐的时候，另外推荐一些他非常想听的其他音乐。用户在我的应用或者网站上随便点点鼠标，输入文字对我来说都是数据，我就是要将其中某些东西提取出来，指导实践，形成聪明，让用户陷入到我的应用内里不可自拔，上了我的网就不想脱离，手不绝的点，不绝的买，很多人说双十一我都想断网了，我老婆在上面不断的买买买，买了A又推荐B，老婆大人说，“哎呀，B也是我喜好的啊，老公我要买”。你说这个程序怎么这么牛，这么有聪明，比我还了解我老婆，这件事变是怎么做到的呢？

3.2 数据如何升华为聪明
数据的处置惩罚分几个步调，完成了才末了会有聪明。
第一个步调叫数据的收集。起首得有数据，数据的收集有两个方式，第一个方式是拿，专业点的说法叫抓取或者爬取，例如搜索引擎就是这么做的，它把网上的所有的信息都下载到它的数据中央，然后你一搜才能搜出来。比如你去搜索的时候，结果会是一个列表，这个列表为什么会在搜索引擎的公司内里呢，就是由于他把这个数据啊都拿下来了，但是你一点链接，点出来这个网站就不在搜索引擎它们公司了。比如说新浪有个消息，你拿百度搜出来，你不点的时候，那一页在百度数据中央，一点出来的网页就是在新浪的数据中央了。另外一个方式就是推送，有很多终端可以帮我收集数据，比如说小米手环，可以将你每天跑步的数据，心跳的数据，就寝的数据都上传到数据中央内里。
第二个步调是数据的传输。一般会通过队列方式进行，由于数据量着实是太大了，数据必须经过处置惩罚才会有用，可是系统处置惩罚不外来，只好排好队，逐步的处置惩罚。
第三个步调是数据的存储。现在数据就是款项，掌握了数据就相称于掌握了钱。要不然网站怎么知道你想买什么呢？就是由于它有你历史的生意业务的数据，这个信息可不能给别人，十分宝贵，以是需要存储下来。
第四个步调是数据的处置惩罚和分析。上面存储的数据是原始数据，原始数据多是杂乱无章的，有很多垃圾数据在内里，因而需要洗濯和过滤，得到一些高质量的数据。对于高质量的数据，就可以进行分析，从而对数据进行分类，或者发现数据之间的相互关系，得到知识。比如盛传的沃尔玛超市的啤酒和尿布的故事，就是通过对人们的购买数据进行分析，发现了男人一般买尿布的时候，会同时购买啤酒，这样就发现了啤酒和尿布之间的相互关系，得到知识，然后应用到实践中，将啤酒和尿布的柜台弄的很近，就得到了聪明。
第五个步调就是对于数据的检索和发掘。检索就是搜索，所谓外事不决问google，内事不决问百度。内外两大搜索引擎都是讲分析后的数据放入搜索引擎，从而人们想寻找信息的时候，一搜就有了。另外就是发掘，仅仅搜索出来已经不能满足人们的要求了，还需要从信息中发掘出相互的关系。比如财经搜索，当搜索某个公司股票的时候，该公司的高管是不是也应该被发掘出来呢？假如仅仅搜索出这个公司的股票发现涨的特别好，于是你就去买了，着实其高管发了一个声明，对股票十分不利，第二天就跌了，这不坑害广大股民么？以是通过各种算法发掘数据中的关系，形成知识库，十分重要。

3.3 大数据时代，众人拾柴火焰高
当数据量很小的时候，很少的几台呆板就能办理。逐步的当数据量越来越大，最牛的服务器都办理不了问题的时候，就想怎么办呢？要聚合多台呆板的力量，各人同心协力一起把这个事搞定，众人拾柴火焰高。
对于数据的收集，对于IoT来讲，表面摆设这成千上万的检测设备，将大量的温度，适度，监控，电力等等数据统统收集上来，对于互联网网页的搜索引擎来讲，需要将整个互联网所有的网页都下载下来，这显然一台呆板做不到，需要多台呆板组成网络爬虫系统，每台呆板下载一部门，同时工作，才能在有限的时间内，将海量的网页下载完毕。

对于数据的传输，一个内存内里的队列肯定会被大量的数据挤爆掉，于是就产生了基于硬盘的分布式队列，这样队列可以多台呆板同时传输，随你数据量多大，只要我的队列足够多，管道足够粗，就能够撑得住。

对于数据的存储，一台呆板的文件系统肯定是放不下了，以是需要一个很大的分布式文件系统来做这件事变，把多台呆板的硬盘打成一块大的文件系统。

再如数据的分析，可能需要对大量的数据做分解，统计，汇总，一台呆板肯定搞不定，处置惩罚到猴年马月也分析不完，于是就有分布式计算的方法，将大量的数据分成小份，每台呆板处置惩罚一小份，多台呆板并行处置惩罚，很快就能算完。例如著名的Terasort对1个TB的数据排序，相称于1024G，假如单机处置惩罚，怎么也要几个小时，但是并行处置惩罚209秒就完成了。

以是说大数据平台，什么叫做大数据，说白了就是一台呆板干不完，各人一起干。随着数据量越来越大，很多不大的公司都需要处置惩罚相称多的数据，这些小公司没有这么多呆板可怎么办呢？
3.4 大数据需要云计算，云计算需要大数据
说到这里，各人想起云计算了吧。当想要干这些活的时候，需要好多好多的呆板一块做，真的是想什么时候要，想要多少就要多少。例如大数据分析公司的财务环境，可能一周分析一次，假如要把这一百台呆板或者一千台呆板都在那放着，一周用一次对吧，非常浪费。那能不能需要计算的时候，把这一千台呆板拿出来，然后不算的时候，这一千台呆板可以去干别的事变。谁能做这个事儿呢？只有云计算，可以为大数据的运算提供资源层的机动性。而云计算也会摆设大数据放到它的PaaS平台上，作为一个非常非常重要的通用应用。由于大数据平台能够使得多台呆板一起干一个事儿，这个东西不是一般人能开发出来的，也不是一般人玩得转的，怎么也得雇个几十上百号人才能把这个玩起来，以是说就像数据库一样，着实还是需要有一帮专业的人来玩这个东西。现在公有云上根本上都会有大数据的办理方案了，一个小公司我需要大数据平台的时候，不需要采购一千台呆板，只要到公有云上一点，这一千台呆板都出来了，而且上面已经摆设好了的大数据平台，只要把数据放进去算就可以了。
云计算需要大数据，大数据需要云计算，两个人就这样联合了。
四、人工智能拥抱大数据
4.1 呆板什么时候才能懂人心
虽说有了大数据，人的欲望总是这个不能够满足。虽说在大数据平台内里有搜索引擎这个东西，想要什么东西我一搜就出来了。但是也存在这样的环境，我想要的东西不会搜，表达不出来，搜索出来的又不是我想要的。例如音乐软件内里推荐一首歌，这首歌我没听过，当然不知道名字，也没法搜，但是软件推荐给我，我的确喜好，这就是搜索做不到的事变。当人们利用这种应用的时候，会发现呆板知道我想要什么，而不是说当我想要的时候，去呆板内里搜索。这个呆板真像我的朋侪一样懂我，这就有点人工智能的意思了。
人们很早就在想这个事变了。最早的时候，人们想象，假如要是有一堵墙，墙后面是个呆板，我给它说话，它就给我回应，我假如感觉不出它那边是人还是呆板，那它就真的是一个人工智能的东西了。
4.2 让呆板学会推理
怎么才能做到这一点呢？人们就想：我起主要告诉计算机人类的推理的本事。你看人重要的是什么呀，人和动物的区别在什么呀，就是能推理。我要是把我这个推理的本事啊告诉呆板，呆板就能根据你的提问，推理出相应的答复，真能这样多好。推理着实人们逐步的让呆板能够做到一些了，例如证明数学公式。这是一个非常让人惊喜的一个过程，呆板竟然能够证明数学公式。但是逐步发现着实这个结果，也没有那么令人惊喜，由于各人发现了一个问题，数学公式非常严谨，推理过程也非常严谨，而且数学公式很轻易拿呆板来进行表达，程序也相对轻易表达。然而人类的语言就没这么简朴了，比现在天晚上，你和你女朋侪约会，你女朋侪说：假如你早来，我没来，你等着，假如我早来，你没来，你等着。这个呆板就比比力难理解了，但是人都懂，以是你和女朋侪约会，你是不敢迟到的。
4.3 教给呆板知识
以是仅仅告诉呆板严酷的推理是不敷的，还要告诉呆板一些知识。但是知识这个事儿，一般人可能就做不来了，可能专家可以，比如语言领域的专家，或者财经领域的专家。语言领域和财经领域知识能不能表现成像数学公式一样稍微严酷点呢？例如语言专家可能会总结出主谓宾定状补这些语法规则，主语后面一定是谓语，谓语后面一定是宾语，将这些总结出来，并严酷表达出来不久行了吗？后来发现这个不行，太难总结了，语言表达千变万化。就拿主谓宾的例子，很多时候在口语内里就省略了谓语，别人问：你谁啊？我答复：我刘超。但是你不能规定在语音语义识别的时候，要求对着呆板说尺度的书面语，这样还是不敷智能，就像罗永浩在一次演讲中说的那样，每次对着手机，用书面语说：请帮我呼叫某某某，这是一件很尴尬的事变。
人工智能这个阶段叫做专家系统。专家系统不易成功，一方面是知识比力难总结，另一方面总结出来的知识难以教给计算机。由于你自己还迷迷糊糊，似乎以为有规律，就是说不出来，就怎么能够通过编程教给计算机呢？
4.4 算了，教不会你自己学吧
于是人们想到，看来呆板是和人完全不一样的物种，干脆让呆板自己学习好了。呆板怎么学习呢？既然呆板的统计本事这么强，基于统计学习，一定能从大量的数字中发现一定的规律。
着实在娱乐圈有很好的一个例子，可见一斑
有一位网友统计了知名歌手在大陆发行的 9 张专辑中 117 首歌曲的歌词，同一词语在一首歌出现只算一次，形容词、名词和动词的前十名如下表所示（词语后面的数字是出现的次数）：
| a | 形容词 | b | 名词 | c | 动词 |
| 0 | 孤独:34 | 0 | 生命:50 | 0 | 爱:54 |
| 1 | 自由:17 | 1 | 路:37 | 1 | 碎:37 |
| 2 | 迷惘:16 | 2 | 夜:29 | 2 | 哭:35 |
| 3 | 坚强:13 | 3 | 天空:24 | 3 | 死:27 |
| 4 | 绝望:8 | 4 | 孩子:23 | 4 | 飞:26 |
| 5 | 芳华:7 | 5 | 雨:21 | 5 | 空想:14 |
| 6 | 迷茫:6 | 6 | 石头:9 | 6 | 祈祷:10 |
| 7 | 光明:6 | 7 | 鸟:9 | 7 | 拜别:10 |
假如我们随便写一串数字，然后按照数位依次在形容词、名词和动词中取出一个词，连在一起会怎么样呢？
例如取圆周率 3.1415926，对应的词语是：坚强，路，飞，自由，雨，埋，迷惘。稍微毗连和润色一下：
坚强的孩子，
依然前行在路上，
伸开翅膀飞向自由，
让雨水埋葬他的迷惘。
是不是有点感觉了？当然真正基于统计的学习算法比这个简朴的统计复杂的多。
然而统计学习比力轻易理解简朴的相关性，例如一个词和另一个词总是一起出现，两个词应该有关系，而无法表达复杂的相关性，而且统计方法的公式每每非常复杂，为了简化计算，常常做出各种独立性的假设，来低落公式的计算难度，然而现实生活中，具有独立性的变乱是相对较少的。
4.5 模拟大脑的工作方式
于是人类开始从呆板的世界，反思人类的世界是怎么工作的。

人类的脑子内里不是存储着大量的规则，也不是记载着大量的统计数据，而是通过神经元的触发实现的，每个神经元有从其他神经元的输入，当吸收到输入的时候，会产生一个输出来刺激其他的神经元，于是大量的神经元相互反应，终极形成各种输出的结果。例如当人们看到玉人瞳孔放大，绝不是大脑根据身材比例进行规则判定，也不是将人生中看过的所有的玉人都统计一遍，而是神经元从视网膜触发到大脑再回到瞳孔。在这个过程中，着实很难总结出每个神经元对终极的结果起到了哪些作用，反正就是起作用了。
于是人们开始用一个数学单位模拟神经元
这个神经元有输入，有输出，输入和输出之间通过一个公式来表现，输入根据重要程度不同(权重)，影响着输出。

于是将n个神经元通过像一张神经网络一样毗连在一起，n这个数字可以很大很大，所有的神经元可以分成很多列，每一列很多个排列起来，每个神经元的对于输入的权重可以都不雷同，从而每个神经元的公式也不雷同。当人们从这张网络中输入一个东西的时候，盼望输出一个对人类来讲正确的结果。例如上面的例子，输入一个写着2的图片，输出的列表内里第二个数字最大，着实从呆板来讲，它既不知道输入的这个图片写的是2，也不知道输出的这一系列数字的意义，没关系，人知道意义就可以了。正如对于神经元来说，他们既不知道视网膜看到的是玉人，也不知道瞳孔放大是为了看的清楚，反正看到玉人，瞳孔放大了，就可以了。
对于任何一张神经网络，谁也不敢包管输入是2，输出一定是第二个数字最大，要包管这个结果，需要练习和学习。毕竟看到玉人而瞳孔放大也是人类很多年进化的结果。学习的过程就是，输入大量的图片，假如结果不是想要的结果，则进行调整。如何调整呢，就是每个神经元的每个权重都向目的进行微调，由于神经元和权重着实是太多了，以是整张网络产生的结果很难表现出非此即彼的结果，而是向着结果微微的进步，终极能够到达目的结果。当然这些调整的策略还是非常有本事的，需要算法的高手来细致的调整。正如人类见到玉人，瞳孔一开始没有放大到能看清楚，于是玉人跟别人跑了，下次学习的结果是瞳孔放大一点点，而不是放大鼻孔。
4.6 没原理但做得到
听起来也没有那么有原理，但是的确能做到，就是这么任性。
神经网络的广泛性定理是这样说的，假设某个人给你某种复杂奇特的函数，f(x)：

不管这个函数是什么样的，总会确保有个神经网络能够对任何可能的输入x，其值f(x)（或者某个能够准确的近似）是神经网络的输出。
假如在函数代表着规律，也意味着这个规律无论多么奇妙，多么不能理解，都是能通过大量的神经元，通过大量权重的调整，表现出来的。
4.7 人工智能的经济学解释
这让我想到了经济学，于是比力轻易理解了。

我们把每个神经元当成社会中从事经济活动的个体。于是神经网络相称于整个经济社会，每个神经元对于社会的输入，都有权重的调整，做出相应的输出，比如工资涨了，菜价也涨了，股票跌了，我应该怎么办，怎么花自己的钱。这内里没有规律么？肯定有，但是具体什么规律呢？却很难说清楚。
基于专家系统的经济属于筹划经济，整个经济规律的表现不盼望通过每个经济个体的独立决策表现出来，而是盼望通过专家的高屋建瓴和远见卓识总结出来。专家永世不可能知道哪个城市的哪个街道缺少一个卖甜豆腐脑的。于是专家说应该产多少钢铁，产多少馒头，每每距离人民生活的真正需求有较大的差距，就算整个筹划书写个几百页，也无法表达隐藏在人民生活中的小规律。
基于统计的宏观调控就靠谱的多了，每年统计局都会统计整个社会的就业率，通胀率，GDP等等指标，这些指标每每代表着很多的内在规律，固然不能够精确表达，但是相对靠谱。然而基于统计的规律总结表达相对比力粗糙，比如经济学家看到这些统计数据可以总结出长期来看房价是涨还是跌，股票长期来看是涨还是跌，假如经济总体上扬，房价和股票应该都是涨的。但是基于统计数据，无法总结出股票，物价的微小波动规律。
基于神经网络的微观经济学才是对整个经济规律最最准确的表达，每个人对于从社会中的输入，进行各自的调整，而且调整同样会作为输入反馈到社会中。想象一下股市行情细微的波动曲线，正是每个独立的个体各自不断生意业务的结果，没有统一的规律可循。而每个人根据整个社会的输入进行独立决策，当某些因素经过多次练习，也会形成宏观上的统计性的规律，这也就是宏观经济学所能看到的。例如每次货币大量发行，末了房价都会上涨，多次练习后，人们也就都学会了。
4.8 人工智能需要大数据
然而神经网络包含这么多的节点，每个节点包含非常多的参数，整个参数量着实是太大了，需要的计算量着实太大，但是没有关系啊，我们有大数据平台，可以汇聚多台呆板的力量一起来计算，才能在有限的时间内得到想要的结果。
人工智能可以做的事变非常多，例如可以辨别垃圾邮件，辨别黄色暴力文字和图片等。这也是履历了三个阶段的。第一个阶段依靠于关键词黑白名单和过滤技术，包含哪些词就是黄色或者暴力的文字。随着这个网络语言越来越多，词也不断的变化，不断的更新这个词库就有点顾不外来。第二个阶段时，基于一些新的算法，比如说贝叶斯过滤等，你不用管贝叶斯算法是什么，但是这个名字你应该听过，这个一个基于概率的算法。第三个阶段就是基于大数据和人工智能，进行更加精准的用户画像和文本理解和图像理解。
由于人工智能算法多是依靠于大量的数据的，这些数据每每需要面向某个特定的领域(例如电商，邮箱)进行长期的积累，假如没有数据，就算有人工智能算法也白搭，以是人工智能程序很少像前面的IaaS和PaaS一样，将人工智能程序给某个客户安装一套让客户去用，由于给某个客户单独安装一套，客户没有相关的数据做练习，结果每每是很差的。但是云计算厂商每每是积累了大量数据的，于是就在云计算厂商内里安装一套，暴露一个服务接口，比如您想辨别一个文本是不是涉及黄色和暴力，直接用这个在线服务就可以了。这种形势的服务，在云计算内里称为软件即服务，SaaS (Software AS A Service)
于是工智能程序作为SaaS平台进入了云计算。
五、云计算，大数据，人工智能过上了美好的生活
终于云计算的三兄弟凑齐了，分别是IaaS，PaaS和SaaS，以是一般在一个云计算平台上，云，大数据，人工智能都能找得到。对一个大数据公司，积累了大量的数据，也会利用一些人工智能的算法提供一些服务。对于一个人工智能公司，也不可能没有大数据平台支持。以是云计算，大数据，人工智能就这样整合起来，完成了相遇，相识，相知。
【关于作者】
刘超：《Lucene应用开发揭秘》的作者。个人公众号：刘超的通俗云计算 (id：popsuper1982)。
【关于投稿】
假如各人有原创好文投稿，请直接给公号发送留言。
① 留言格式：
【投稿】+《 文章标题》+ 文章链接
② 示例：
【投稿】《不要自称是程序员，我十多年的 IT 职场总结》：http://blog.jobbole.com/94148/
③ 末了请附上您的个人简介哈~
关注「程序员的那些事」，不错过圈内事

网上学习资料一大堆，但假如学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
需要这份系统化的资料的朋侪，可以添加戳这里获取
一个人可以走的很快，但一群人才能走的更远！岂论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都接待参加我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、口试辅导），让我们一起学习成长！
关注「程序员的那些事」，不错过圈内事
[外链图片转存中…(img-mYxsy3y4-1715676760441)]
[外链图片转存中…(img-BtJr5t3o-1715676760441)]
网上学习资料一大堆，但假如学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
需要这份系统化的资料的朋侪，可以添加戳这里获取
一个人可以走的很快，但一群人才能走的更远！岂论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都接待参加我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、口试辅导），让我们一起学习成长！

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。