公務員期刊網 精選范文 云計算的技術基礎范文

    云計算的技術基礎精選(九篇)

    前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的云計算的技術基礎主題范文,僅供參考,歡迎閱讀并收藏。

    云計算的技術基礎

    第1篇:云計算的技術基礎范文

    隨著計算機信息技術的發展,一種新型的計算模式――云計算逐漸興起,云計算具有超強的計算能力、可靠性、虛擬性、通用性、按需付費等特點,因此云計算近年來發展迅速,已經成為未來計算機發展的方向。本文主要闡述了云計算和云儲存的概念,并分析了云計算環境下云計算數據存儲Google File System和Hadoop Distributed File System兩種存儲數據。

    【關鍵詞】云計算 云儲存 數據存儲技術

    21世紀是信息知識爆炸的年代,每天產生海量的信息,企業需要處理和存儲的數據信息越來越多。如果按照傳統計算機算法,企業為了存儲信息需要購置大量的硬件設施和軟件設施,并需要專人對數據信息進行管理,對設備進行維護,需要耗費大量的人力和物力成本。而云計算這種計算方式,省去了企業管理和維修的麻煩,企業可以將大量的數據信息放在服務器或者云端,企業只需要支付少量的管理費用,就能隨時調取云端的數據信息,并享受圖片處理、歸檔服務、音視頻轉碼等多種數據增值服務。

    1 云計算與云存儲的概念

    1.1 云計算

    根據美國國家標準與技術研究院的定義:云計算是一種按使用量付費的模式,這種模式提供便捷的、可用的、按需的網絡訪問,用戶只需要進入到可配置的計算資源共享池,包括服務器、存儲、網絡、應用軟件和服務器等,云端管理人員只要通過少量的管理或者與服務商進行少量的交互,就能實現對云端的管理。云其實是互聯網的一種比喻說法,通過云計算可以將數據信息存儲在計算機中,這里的計算機指的是遠程服務器。然后企業根據自己的需求,對計算機存儲系統進行訪問,并將信息資源直接切換到實際應用方面。計算機直接將主機功能交給了云端,云端的計算能力就跟水電一樣,成為了一種商品,這就促使傳統計算機方式向現代計算機方式轉變。

    1.2 云儲存

    云儲存是在云計算的基礎上提出的,它與云計算有很多相同的地方。云計算主要是通過網絡技術、集群應用和分布式文件系統,利用應用軟件將網絡中大量不同類型的存儲設備連接起來,共同合作,對外提供業務訪問和數據存儲功能。云存儲與傳統的存儲模式相比,它是一種特殊的構架服務,它必須建立在互聯網基礎上,為用戶提供在線的存儲服務。用戶不需要考慮存儲器中的容量、數據存儲位置、安全等問題,只需要按時付費就可以了。

    2 云計算的數據存儲技術

    云計算存儲技術具有比較明顯的兩個特點:第一是高傳輸率,第二是高吞吐率。當前,云計算存儲技術比較主要有谷歌開發的非開源的GFS和Hadoop團隊開發的HDFS技術。不過后者在IT廠商應用的比較廣泛。

    2.1 Google File System

    Google File System簡稱GFS,這種存儲技術不僅開源擴展,而且是分布式的,廣泛應用在分布式的數據訪問。它的硬件價格比較低,但是卻提供了容錯的功能。每一個GFS都是由一個master和多個chunkserver構成,能夠提供多用戶的訪問權限,只要用戶的訪問資源不受限制。chunkserver可以和訪問同時進行。GFS系統文件被分成很多個小塊,每一個小塊的標識是chunk―handle,chunk―handle由master分配。為了保證數據的安全性和可靠性,GFS系統文件會被復制在多個chunk―handle上,文件的副本由用戶決定,master會對系統文件進行維護。比如系統訪問控制、空間名字。此外它還可以控制系統的活動范圍,chunkserver間的遷移和單個模塊的垃圾收集等。master還會定期指令給chunkserver,讓chunkserver收集它的發展狀態。目前谷歌公司開發的GFS客戶代碼基本已經實現了系統文件的AP,所以用戶與master的數據交換,之限制元數據操作,存儲數據直接和chunkserver聯系,chunkserver和文件數據客戶不會緩存。

    2.2 Hadoop Distributed File System(HDFS)

    Hadoop分布式文件系統是HDFS由多個存儲數據的終點和管理節點構成的。它的中心服務器是namenode,客戶端和文件管理系統namenode對文件進行訪問。每一個namenode節點都有一臺普通的計算機對應,運行時與單機計算機文件系統類似,可以在文件系統常見名錄、更改文件名。其實系統的底層已經把文件分割成了Block,并⒄廡Block進行不同的存儲,從而達到容錯的目的。namenode是HDFS文件系統的核心內容,它可以維護一些數據結果,再把記錄文件分割成Block,并在namenode獲得相關的消息。

    3 結語

    云計算是一種新型的計算模式,它必須依靠大數據或者在大數據的基礎上,為計算機用戶提供服務和幫助。為了確保計算機數據的可靠性和安全性,云計算對云端數據采取了分層存儲的方式,為用戶提供多層次的安全防護。但是如今云計算的安全問題依然是用戶關心的重點。云存儲已經是未來存儲的一種趨勢。當前各大云存儲運營商正在積極開發應用技術、搜索和云存儲相結合的技術,為用戶提供更加便利的服務,但是云存儲的發展還須加強云存儲的安全防護功能和技術研究。

    參考文獻

    [1]劉曉輝.試析計算機云計算的數據存儲技術[J].通訊世界,2015(21):257-257.

    [2]耿麗娟.基于云計算的數據存儲技術探索[J].科技尚品,2016(03):174-174.

    [3]蔣穗,祁杰.數據存儲技術在云環境下的應用特性分析[J].移動通信,2013(11):42-44.

    第2篇:云計算的技術基礎范文

    中圖分類號:TP393文獻標識碼:A文章編號:1009-3044(2012)16-3803-03

    Data Computation and Data Storage in Cloud Computing

    DONG Yu , GUAN Qun

    (College of Computer Science, Sichuan University, Chengdu 610065, China)

    Abstract: With the continuous growth of the network bandwidth, the conditions are more mature that access non-local computing servic? es through the network, so there is a technology what we call "cloud computing".The cloud computing is a new application model for de? centralized computing which can provide reliable, customized and maximum number of users with minimum resource.With the constantly expanding and deepening of the cloud computing applications, it asks for higher demand, therefore, many researchers also strive to improve the cloud computing performance. The article explains the basic concepts of cloud computing. and on this basis, it also introduced the technology of data computation and data storage, it has a detailed description to the multi-user isolation mechanism, and finally to predict the development of cloud computing and its future.

    Key words: cloud computing; data computation; data storage; isolation mechanism

    云計算[1]是I T基礎設施的交付和使用模式,它指的是通過網絡以按需、易擴展的方式獲得所需的資源(硬件、平臺、軟件)。提供資源的網絡被稱為“云”。“云”中的資源在使用者看來是可以無限擴展的,并且可以隨時獲取,按需使用,隨時擴展,按使用付費。這種特性經常被稱為像水電一樣使用I T基礎設施。近年來,云計算的研究和應用發展非??欤饕蚴窃朴嬎憔哂腥缦聝烖c:超大規模、虛擬化、高可靠性、通用性、高可擴展性、按需服務、極其廉價、安全、方便。

    [1]朱近之.智慧的云計算[M].北京:電子工業出版社,2010.

    [2] Dean J,Ghemawat S.MapReduce: Simplified Data Processing on Large Clusters[J].Communications of the ACM, 2008,51(1):107-113.

    [3]李遠方,賈時銀,鄧世昆,等.基于樹結構的MapReduce模型[J].計算機技術與發展,2011,21(8 ):149-152.

    [4]韓燕波,王桂玲,等.互聯網計算的原理與實踐[M].北京:科學出版社,2010.

    [5] Sacha K. Middleware architecture with patterns and frameworks[Z].2007.

    [6]王鵬.走進云計算[M].北京:人民郵電出版社,2009.

    [7]趙培,陸平,羅圣美.云計算技術及其應用[J].中興通訊技術,2010(8).

    第3篇:云計算的技術基礎范文

    隨著云計算技術的不斷完善,為了促進大數據處理系統的功能多樣化,云計算技術在大數據處理系統上得到了廣泛的應用。本文重點研究了在多元因素的影響下的數據模型對大數據處理的影響,并據此提出了一種基于融合思想,采用了混合架構以及分散處理的云計算環境下的大數據處理系統的整體部署策略。

    【關鍵詞】云計算 大數據處理 融合處理

    1 引言

    隨著網絡技術的發展,以及智能設備的普及,當前的數據增長速度已經呈現爆炸式增長,大數據時代已經來臨。目前專家對大數據處理系統方面的研究主要是基于云環境下的分布式部署以及網絡架構的融合和動態實時數據處理這三個方面。同時也取得了一定的研究成果,對于當前的云計算環境下的大數據處理系統的發展提供了很多理論和實踐基礎。

    2 基于融合思想的大數據處理方案分析

    云計算技術模式下,人機交互和數據處理以及網絡邏輯處理技術等都相對交融,處于深度融合狀態。因此基于融合思想的大數據處理方案就是以融合思想為核心,將云計算技術模式下的各種分散的網絡資源進行協同組織,然后再進行融合,從而充分發揮分散狀態下的資源優勢,形成一種整體性的比較優勢,因此這種融合式的大數據處理方案的應用前景十分廣闊。

    在云計算技術模式下,大數據處理研究更多的著力點放在了大數據處理系統的構建、分散資源的協同以及相關的輔助技術等。從宏觀角度來看,可以氛圍內混合處理和混合管理兩個方面。其中混合管理的核心就是研究各種無線以及有線的處理機制和數據共享、資源共享機制的管理,同時還包括了分散數據管理機制和協同機制管理等。而混合處理的研究核心則是著力于系統運行模型和相關輔助技術上。

    3 大數據處理系統的應用和處理系統分析

    3.1 大數據處理系統的應用

    大數據處理系統的應用主要包括三個方面:

    (1)基于融合式架構的應用。這實際上就是一種客戶機/服務器架構模式,其中服務器主要負責應用系統的管理和控制以及相關應用的邏輯處理和數據調度等。而客戶端則是專門進行人機交互,當用戶想要執行數據處理分析人物時,通過客戶機向服務器發送請求,然后有服務器完成并返回給客戶端。這個融合式架構相對簡單,且容易維護,但是服務器功能有著極高的依賴,這也往往成為數據處理系統應用的瓶頸。

    (2)分散式架構。這種架構的特點就是協同控制的節點都是平等地位,并且和處理系統有關的控制和管理模塊都是分散在各個客戶端上??蛻舳藫碛幸欢ǖ淖灾螌傩?,因此具有通用性和靈活性和可擴展性等諸多優勢。但是由于數據采用分布存儲和分布操作,這樣在維護方面就變得較為困難,而且節點之間的實時同步和用戶動態注冊的應用也難以實現。

    (3)混合式結構。這種結構擁有前兩兩種結構有點,通過服務器實現數據信息的統一維護,而客戶端一方面實現信息傳輸功能,同時也能夠和用戶在某些應用方面進行充分的交互,因此能夠有效減輕服務器端的壓力,這樣也能夠消除服務器端的瓶頸。提升系統的魯棒性和靈活性。

    3.2 云計算技術下的大數據處理系統具體分析

    3.2.1 系統架構

    云計算技術環境下的大數據處理平臺的節點主要體現下面幾個特點:其一是節點分散性;其二是數據處理動態性;其三是數據來源混構性。

    這個處理平臺架構采用了融合式的調度執行層和任務融合調度管理,并根據處理規則和不同的參數來調整處理引擎的數據和算法組合以及計算資源。對大數據資源的數據交互和任務分工工作進行了有效融合。同時在管理層,也對業務數據進行分布式存儲,提升了容錯處理能力。

    3.2.2 系統處理流程

    系統處理流程主要是對分散狀態數據進行處理,其關鍵就是對分散的數據進行提取,因此首先給其他應用提供數據接口。然后數據管理部分要融合數據資源,并在一定容忍度的基礎下,對不同的數據處理機制進行比較,進而優勢融合。最后數據處理中心則是對數據進行集中處理,然后統一分配數據資源,從而在數據中心實現數據處理的融合。

    3.2.3 處理系統的部署

    某信息產業園的大數據處理系統的部署是根據信息企業集群的需求,然后對現有分散數據資源進行挖掘,比如企業內部的ERP和SCM系統中的數據,通過對這些數據進行深度挖掘從而為該企業提供戰略發展資源。圖1就顯示了這個部署圖。

    從部署圖可以看出,在這家企業中,ERP和SCM和CRM是其數據源,然后經過服務器處理之后,分布到n個數據庫,然后進行合并進入到大數據管理模塊,最終能夠實現數據查詢和數據決策服務。

    4 結語

    總而言之,目前采用融合式思想,在云計算技術條件下,對大數據處理系統進行部署的研究相對較少,特別是當前的信息產業,由于其自身的解決方案并不能夠實現大數據條件的比較優勢,所以本文提出的融合式的大數據處理技術,有效的提升了數據利用深度,拓展了大數據處理系統的應用范圍。

    參考文獻

    [1]于戈,谷峪,鮑玉斌,王志剛.云計算環境下的大規模圖數據處理技術[J].計算機學報,2011(10).

    [2]程苗基于云計算的Web數據挖掘[J].計算機科學,2011(S1).

    第4篇:云計算的技術基礎范文

    關鍵詞: 云計算; 海量數據; HDFS; 存儲

    中圖分類號: TN971?34; TP393 文獻標識碼: A 文章編號: 1004?373X(2013)19?0012?03

    0 引 言

    自從2007年10月份云計算誕生至今,這一技術在短短的幾年時間里對整個IT行業產生了巨大的影響。學術界、產業界和政府以及軍隊都對云計算產生了濃厚的興趣;全球范圍內討論云計算技術的學術活動如火如荼;谷歌、亞馬遜、IBM、微軟等IT巨頭大力推動云計算技術的宣傳和產品的普及;各國政府和組織紛紛斥巨資打造大規模的數據中心與計算中心。云計算技術目前已經得到了業界的高度認同,逐漸走向成熟[1]。隨著云計算的推廣和流行,如何快速安全地保存和傳輸生于云端的大量數據,成了各大企業和組織研究的重點。云計算獨有的無限擴展、隨時獲取的資源管理方式若運用于部隊作戰領域,必然會對部隊作戰平臺建設帶來深刻的影響與變革[2?3]。

    本文建立了一種基于云計算的作戰數據存儲系統模型,并發揮云計算可用性、高性能、可擴展的特點,設計并實現一套基于云計算的高效、安全及面向部隊作戰實際的數據存儲解決方案。配合部隊三級網的調用,為部隊在反恐、處突等作戰任務中產生的偵察圖像、作戰會議視頻、軍事地圖等海量數據提供高效的存儲和傳輸,降低作戰成本,提高軍事效能。

    1 云計算的定義及特征

    云計算被認為是“繼個人電腦、互聯網之后電子信息領域又一重大變革”,云計算作為網絡技術中的一個流行用語,已經被很多人所熟悉。云計算其本質是一種計算方式,通過這種方式,共享的軟硬件資源和信息通過網絡以按需、易擴展的方式獲得所需的服務。云計算可以說是網格計算、分布式計算、并行計算、效用計算、網絡存儲、虛擬化、負載均衡等傳統計算機技術和網絡技術發展融合的產物[4]。云計算通過網絡將龐大的計算處理程序自動分拆成無數個較小的子程序,再交由多部服務器所組成的系統經搜尋、計算、分析之后將處理結果返回給用戶。通過這項技術,網絡服務提供者可以在數秒之內,處理數以千萬計甚至億計的信息,達到和“超級計算機”同樣強大性能的網絡服務。云計算的程序和數據不再運行和存放在個人臺式計算機上,可以托管到“云”中,利用個人電腦或便攜設備,經由網絡連接到“云”中,能夠讓你在任何地方訪問你所有的應用程序和信息服務,不再受到桌面的限制。

    云計算的特征如下:

    (1)在技術體制方面,云計算不是全新的技術,而是現有技術的綜合利用。“云”可以認為是以虛擬化、面向服務的計算和網格計算等成熟技術為基礎,以大規模資源共享為目標,采用共享資源池的模式進行構建的大型服務器集群。

    (2)在經濟性方面,云計算強調系統構建的低成本?;谠朴嬎慵夹g,通常采用數量較多的高性能PC機或小型服務器等較為便宜的硬件構建分布式服務器集群,提供可用性、可伸縮性都很強的計算服務。

    (3)在應用程序特征方面,云計算強調基于網絡的應用。云計算的典型應用模式是客戶端根據自身需要,通過瀏覽器等標準程序訪問在網絡上、以服務形式提供的計算能力、軟件、存儲服務、中間件平臺等[5]。

    2 HDFS架構

    部隊作戰時所依托的三級網每時每刻都在產生音頻、視頻、文本、圖像等數據。經過長時間積累,這些數據總量非常龐大,存儲這些數據需要投入巨大的軟硬件資源。如果能夠利用已有空閑磁盤組成集群來存儲這些數據,則可以不再需要大規模采集服務器存儲數據或購買容量龐大的磁盤,減少了硬件成本[6]。解決這一問題的方案就是使用分布式存儲。

    Hadoop Distributed File System,簡稱HDFS,是一個分布式文件系統。HDFS有著高容錯性的特點,并且設計用來部署在低廉的硬件上。而且它提供高吞吐量來訪問應用程序的數據,適合那些有著超大數據集的應用程序。HDFS放寬了POSIX的要求,這樣可以實現以流的形式訪問文件系統中的數據。

    HDFS在整個Hadoop體系結構中處于最基礎的地位。從內部實現來看,其目錄結構和文件內容都沒有存儲在本地磁盤中,而是通過網絡傳輸到遠端系統上。總體來說,HDFS分為3個部分,即客戶端、主控節點(Namenode)和數據節點(Datanode)。Namenode是分布式文件系統的管理者,主要負責文件系統的命名空間、集群的配置信息和數據塊的復制信息等,并將文件系統的元數據存儲在內存中;Datanode是文件實際存儲的位置,它將數據塊(Block)信息存儲在本地文件系統中,并且通過周期性的心跳報文將所有數據塊信息發送給Namenode[7?8]。HDFS體系結構如圖1所示。

    HDFS系統具有如下特點:

    (1)非常適合海量數據的存儲和處理。

    (2)可擴展性高,只需簡單添加服務器數量,即可實現存儲容量和計算能力的線性增長。

    (3)數據冗余度高,默認情況下每份數據在3臺服務器上保留備份。

    (4)適合“流式”訪問,即一次寫入,多次讀取,數據寫入后極少修改。

    可以看出,HDFS分布式文件系統非常適合作為作戰數據存儲系統的底層存儲平臺。

    3 系統實現

    3.1 系統功能模塊

    綜合分析部隊作戰實際,將作戰數據存儲系統分為3個功能模塊,如圖2所示,即作戰部隊、首長機關和指揮中心。作戰部隊能夠使用系統提供的作戰數據檢索功能,并進行數據的瀏覽,但不能對系統中現有的數據進行編輯[9?10]。首長機關除具有檢索功能外,還能夠添加、刪除、替換作戰數據。指揮中心主要負責管理和維護服務器,實時更新作戰數據,及時發現并解決系統運行時出現的錯誤。

    3.2 存儲模塊核心

    存儲系統分為HDFS操作通用類HdfsFileUtil、HDFS文件存取類HdfsIO、HDFS狀態及輔助管理類HdfsManage共3個類。

    HdfsFileUtil類主要負責通過HDFS的Java接口中的相關靜態方法得到文件系統的FileSystem實例,是實現存儲、管理操作的基礎。在HDFS的Java訪問接口中,有兩個靜態方法可以得到FileSystem接口的實例,分別為:public static FileSystem get(Configuration conf)throws IOException;public static FileSystem get(URI uri,Configuration conf)throws IOException。

    Configuration類位于org.apache.hadoop.conf包中,是Hadoop文件系統的配置類,用來根據配置文件中指定的配置項來創建一個配置實例,Configuration封裝了client或者server的配置,這些配置從classpath中讀取,比如被classpath指向的conf/core?site.xml文件。通過以上兩個靜態工廠方法,從抽象的Hadoop文件系統中抽取出一個具體的FileSystem實例。其中第一個方法返回默認的文件系統(在conf/core?site.xml文件中定義),若是文件中沒有指定,則返回本地的文件系統;第二個方法返回由uri指定的文件系統,如果uri無效,則返回默認的文件系統。

    HdfsFileUtil類的構造實現方法為:

    Public HdfsFileUtil(){

    Conf=new Configuration();

    FileSystem hdfs=FileSystem.get(config);

    }

    這樣就得到一個FileSystem接口的實例,所有的存取操作都通過這個實例來完成。

    HdfsIO類主要實現文件的讀寫與存取等功能,包括將本地文件復制到HDFS系統的copyToHdfs()方法;在HDFS系統中創建文件的createFile方法;在文件系統中讀取文件的readFromHdfs()方法及刪除文件的deleteFromHdfs()等方法。例如deleteFromHdfs(String dst)方法:

    Public Boolean deleteFromHdfs(String dst)throws

    FileNotfoundException,IOException{

    Boolean isdelete=this.fs.deleteOnExit(new Path(dst));

    This.fs.close();

    Return isdelete;

    }

    deleteFromHdfs(String dst)方法將指定路徑上的文件從HDFS中刪除。方法調用FileSystem實例中的deleteOnExit()方法,這個方法首先會將某個路徑Path添加到deleteOnExit(這是FileSystem類中定義的一個變量)中,然后在FileSystem實例被銷毀或JVM退出時刪除該Path。

    也可以調用public Boolean delete(Path p,Boolean recursive)方法來從HDFS上刪除文件,如果p是一個文件或是空目錄時,則recursive值將會被忽略;當p對應目錄不空時,如果recursive為true,則采用目錄及其內部內容均被刪除的遞歸刪除方式,否則拋出IOException異常。

    需要注意的是,用戶在刪除某個文件時,這個文件并沒有立刻從HDFS中刪除。相反,HDFS將這個文件重命名,并轉移到/trash目錄。當文件還在/trash目錄時,該文件可以被迅速地恢復。文件在/trash中保存的時間是可配置的,當超過這個時間,Namenode就會將該文件從namespace中刪除。文件的刪除,也將釋放關聯該文件的數據塊。注意,在文件被用戶刪除和HDFS空閑空間的增加之間會有一個等待時間延遲。

    HdfsManage類主要實現文件存取的一些輔助功能,包括獲取文件位置、文件狀態、文件目錄、各Datanode主機名及存儲系統日志記錄等一系列操作。例如getFileLocation(String filename)方法:

    Public BlockLocation[ ] getFileLocation(String filename)throws IOException{

    Path path=new Path(filename);

    FileStatus fStatus=this.fs.getFileStatus(path);

    BlockLocation[ ] bl=this.fs.getFileBlockLocations(fStatus,0,

    fStatus.getlen());

    return bl;

    }

    getFileLocation()方法返回指定文件在HDFS中物理存儲位置等信息,其中包含主機名列表、偏移位置、文件大小等。方法中涉及的FileStatus類封裝了文件和目錄的信息,包括它們的長度、塊大小、副本因子、修改時間、操作權限等信息,FileSystem類的getFileStatus()方法提供了獲取某一文件或者目錄的FileStatus信息的方法。FileSystem類中getFileBlockLocation()方法原型為public BlockLocation[ ] getFileBlockLocations(FileStatus file,long start,long len)throws IOEXception{}。

    3.3 系統測試

    在HDFS中建立三個條目位置,對作戰數據存儲系統進行測試,圖像和視頻存儲在對應條目下,如圖3所示。

    4 結 語

    云計算作為一種新型的計算模式,從誕生之日起便引起社會廣泛關注。它已經跨越了學術和科技界,融入到了許多社會行業。云計算采用分布式存儲的方式來存儲數據,其高可用、高可靠和經濟性的特點同樣適用于軍事領域。本文設計的基于云計算的作戰數據存儲系統,符合部隊建設實際,可為高技術條件下的部隊戰斗力生成提供有力保證。

    參考文獻

    [1] DEAN J, GHEMAWAT S. MapReduce: simplified data processing on large clusters [J]. Communications of the ACM, 2008, 51(1): 107?113.

    [2] 卜少培.仿真資源云存儲技術的研究與實現[D].北京:北京理工大學,2011.

    [3] 張喜.海量數據存儲模式的研究[D].廣州:廣東工業大學,2012.

    [4] 鮑亮,陳榮.深入淺出云計算[M].北京:清華大學出版社,2012.

    [5] 黎連業,王安,李龍.云計算與實用技術[M].北京:清華大學出版社,2013.

    [6] 洑涵妤.基于云計算的安全數據存儲系統的設計與實現[J].煤炭技術,2012,29(12):169?171.

    [7] 吳紹忠,李靖.基于云計算架構的公安情報信息平臺建設研究[J].中國人民公安大學學報,2012(3):30?41.

    [8] 張路.基于云計算平臺的海量圖片存儲系統設計與實現[D].北京:北京郵電大學,2012.

    第5篇:云計算的技術基礎范文

    計算機信息技術存儲平臺作為一種有效的數據存儲技術,通過數據錄入有效實現了數據的調用、更新以及備份工作。計算機信息技術的存儲平臺對信息技術的應用以及發展具有重要的作用。本文主要探討有效的計算機信息技術存儲平臺的開發方法,以期提高信息技術的應用水平。

    【關鍵詞】計算機 信息技術 儲存平臺

    存儲平臺在信息技術不斷發展的背景下,信息技術在各個行業得到了廣泛的應用,具有重要的影響作用。信息技術已經改變了人們的生產以及生活方式。對于大型企業而言,數據信息十分龐大,單純依靠人工處理難以獲得較高的效率,因此,信息技術應用是必然的選擇。

    1 計算機對信息存儲的解釋

    在計算機信息技術存儲平臺中,使用的信息多為二進制的字節流,解釋數據類型時一般有四個因素:位排列規則、起始位置、數據類型字節數以及解釋方式。當將一個32位整數0X12345678存儲到整型變量中,則采用大端模式、小端模式的存儲表示如表1所示。

    小端的存儲方式,需要將較高的有效字節有效存儲在較高的存儲器地址中,而其中較低的有效字節則存儲在比較低的存儲器地址中,而大端的存儲模式要求是相反的。比如C語言,我們可以將一個無符號int類型的值強制轉換為其它類型,在轉換之后,對于上面四個因素之中,改變的是最后兩個。

    2 計算機信息技術存儲開發模型

    對于企業而言,其內部信息管理通過計算機信息技術存儲技術,可以提高管理的效率,不同企業所具有的需求也會有所不同,因此,對于計算機信息技術存儲平臺的開發而言,其本質是具體的,需要考慮到企業的具體需求。計算機信息技術存儲平臺的開發主要使用的模型為E-R模型,能夠實現對用戶需求的可視化以及準確性的分析,同時可以通過表格分析,對企業的具體需求進行有效分析,以適應不同的需求點。E-R模型廣泛應用在存儲開發平臺中,能夠實現實體間的相互聯系,同時表達出實體之間的相互關系。

    3 計算機信息技術存儲平臺的開發流程

    計算機信息技術存儲平臺作為一種有效的數據存儲技術,通過數據錄入有效實現了數據的調用、更新以及備份工作。計算機信息技術的存儲平臺對信息技術的應用以及發展具有重要的作用。計算機信息技術存儲平臺的開發主要經歷一下三個流程:

    3.1 需求分析階段

    計算機信息技術存儲平臺的需求設計階段是一個比較重要的階段,只有在了解實際需求的基礎上,才能對計算機信息技術存儲平臺的設計打下良好的基礎。在開展需求分析時,應該做好對客戶需求的信息整理工作,利用信息技術將收集到的信息進行處理,最終確定存儲平臺的設計方案。

    3.2 概念設計階段

    在進行需求分析之后,需求還缺少具體的定義,因此,下一步開始的是概念設計階段。該階段主要是對概念進行定義,并對彼此實體之間的關系進行解析進而明確,該階段比較重要,需要建立在對用戶整體需求的總結以及歸納的基礎之上,對具體模型進行有效抽象。在此階段后,需要對計算機信息技術存儲平臺進行邏輯設計,之后展開物理實現,最終對計算機存儲技術進行有效維護。

    4 計算機存儲平臺開發技術的有效應用

    在實際的開發過程中,計算機本身含有的存儲技術具有重要的應用作用,技術實現也比較簡單,可以利用錄入界面來實現數據的有效錄入。最終同嚴格審核進行存儲。在計算機存儲技術的開發中,需要通過數據錄入階段,實現對存儲過程信息的備份,保證數據存儲功能的正確實現。

    數據的存儲功能在計算機信息存儲平臺中處于核心位置,只有在保證存儲功能正常的基礎上,才能確保系統的有效正常運行。在實際的運行中,計算機信息技術存儲平臺中的文件多會設置為不可讀,進而有效提高用戶的信息安全性能。為了提高用戶信息的安全性,同時可以采取對個人信息以及管理員權限進行設置的有效方法。

    5 計算機存儲平臺的發展方向

    運用云計算的優勢,實現呢存ζ教ǖ撓行設計,從而能夠實現對存儲架構的分化,實現功能的分布式實現。同時關系數據庫可以放置在虛擬機中,每一個數據庫享有一個虛擬機,能夠實現不同硬件的有效組合,同時能夠為上層數據庫提供優質的數據服務。同時,基于虛擬機的計算機存儲平臺能夠實現按需服務,進而有效根據服務器實現對虛擬機的有效提供。不同的虛擬機資源能夠得到有效隔離,從而降低了彼此的相互影響。

    以云計算為基礎的計算機存儲平臺的設計,能夠有效提高數據的分析能力,并提供系統日志分析、數據倉庫建立等多種服務,為存儲平臺的有效運行提供強大的數據支持。同時以云計算為基礎的計算機存儲平臺能夠實現可擴展性,具有較大的可靠性,同時具有較大的數據處理功能,能夠促進計算機存儲平臺技術的提高。

    以云計算作為基礎的計算機信息技術存儲平臺能夠實現以往傳統數據庫所不能達到的數據分析,同時能夠提高獲取信息的全面性,并未具體的決策提供較全面的數據資料,同時能夠實現平臺統一的目的,有效解決跨地區數據協同問題,通過不同地區的云存儲平臺的建設,解決數據隔離問題,并提供良好的聯網基礎。以云計算為基礎的計算機信息技術存儲平臺能夠實現資源的量化以及變化,可以實現比較容易擴展的存儲架構,有效滿足數據爆炸所帶來的硬件需求,滿足上層應用的需求,提高資源的有效利用率,進而獲得企業成本的有效降低,獲得經濟效益以及社會效益。

    6 結束語

    在社會不斷進步的背景下,計算機信息技術存儲平臺得到了廣泛的重視,發展速度逐漸加快。計算機信息技術存儲平臺的開發需要對用戶的需求進行合理分析,并根據需求做好相應的概念設計,促進計算機信息存儲平臺的有效運用,不斷促進社會的進步與發展。

    參考文獻

    [1]婁藝,晁松杰.計算機信息技術存儲平臺的開發與應用[J].科技與創新,2015,36(12):74-75.

    [2]劉京.計算機信息技術存儲平臺的開發與應用[J].電子技術與軟件工程,2014,42(16):201-202.

    [3]張晨光.常見食物中毒應急處置中毒物質質譜快速篩選確證輔助信息系統構架探索[D].北京:中國疾病預防控制中心,2011.

    [4]劉斌.基于G/S模式的非物質文化遺產異構數據可視化共享機制研究與實現[D].成都:成都理工大學,2011.

    [5]張興旺,李晨暉,秦曉珠.構建于廉價計算機集群上的云存儲的研究與初步實現[J].情報雜志,2011,30(11):166-171+182.

    [6]宋煒煒.基于時空信息云平臺的空間大數據管理和高性能計算研究[D].昆明:昆明理工大學,2015.

    第6篇:云計算的技術基礎范文

    關鍵詞:云計算;云存儲;數據存儲架構。

    中圖分類號:C37文獻標識碼: A

    從其本質上來看,云計算其實就是一種分布式系統,該系統能夠成分借鑒互聯網將分散的超大規模計算能力實體和各種存儲資源進行有效整合,然后再將該系統所能夠實現的服務反饋給用戶。在這些過程中,采用高安全性的云存儲是實現云計算所有服務的基本條件,通過互聯網上的各種存儲設備,可以構成龐大的云存儲系統,這也是云計算環境下對數據進行存儲和調用的基礎,這樣,云存儲就可以通過分布式的系統來實現將分散存儲設備整合為一個高性能整體的目的。

    1 云存儲的優越性

    (1)云存儲購買模式更為靈活。對于普通企業而言,在數據中心構建過程中,用于服務器購置、維護數據以及日常損耗等方面的資金投入是相當大的,而云存儲允許企業從自身實際情況出發,在云存儲租用及購買上進行選擇。云存儲服務商所提供的數據存儲方案更加專業,及時更新和優化存儲效能,數據存儲成本進行顆粒性統計,力求達到使用成本與用戶能夠接受的價格間的平衡狀態,所以,對于普通的中小型企業來說,如果業務數據量不大,選擇租用公共云存儲比構建私有云存儲更有助于節約資金成本。

    (2)支持存儲服務同步升級,有效管理企業數據。企業構建專屬數據中心需要購置相關的硬件設備及數據存儲管理軟件,通常情況下,要在確保用戶正常使用不受影響的前提下進行設備及軟件的升級及管理;除此之外,為防止意外情況的發生而影響用戶的正常使用,必須確保數據備份及歸檔的高效管理。這一系列活動均存在風險,必須有專業數據管理人員負責。借助云存儲服務,可以將部分風險予以有效轉移,云存儲服務提供商在和用戶簽訂的協議中會涉及系統升級以及數據備份等相關事項,云存儲服務提供商對此負責,并向企業承諾通過實施有效管理最大限度的控制風險。

    (3)對于訪問量突然增大的情況,云存儲也可以輕松應對。為確保向用戶提供服務的質量,數據中心處理能力是企業在構建數據中心時必須予以關注的問題,然而當用戶訪問量出現突發性大幅度上升的情況,例如餐飲業的訂餐系統以及大型活動的訂票系統等等,單純依賴企業自身的數據中心難以應對,借助云存儲服務所提供的服務器集群技術以及虛擬化技術,通過對計算機存儲資源的臨時調用,并向服務器和相應的存儲子模塊進行適當的分配,便可將此類問題予以有效解決。

    2 云計算環境中數據存儲構架

    構建服務器架構,云存儲構建過程的第一個步驟,充當的是云計算的IAAS 部分。就目前而言,尚未制定專門針對云存儲服務器架構的統一標準,具體實現需要一系列相關技術的支持,諸如附網存儲NAS 和存儲區域網SAN 等均是比較常見的服務器架構技術。

    (1)NAS 文件存儲系統屬于松散結合型集群范疇,在構架上具有分布性特點。NAS 文件存儲系統集群中的節點是互補影響的;文件是其中最小的單位。將文件保存至集群后,文件中的數據將會存儲于其中一個節點中,但為確保冗余性,會在其他節點中定位該文件副本,但可以提供此文件單實例的節點是唯一的。NAS 文件存儲系統成本相對低廉,具有較強的拓展性,并且具有完善的安全控制系統,然而,當客戶發出請求過多時,NAS 服務器將會起到一定的限制性影響,通常情況下,企業二級存儲需求可以借助NAS 集群的云服務得以實現。

    (2)SAN 屬于緊密結合型集群范疇。當在集群中保存文件之后,將會分解為一系列數據塊,相對于集群中節點而言,數據塊之間可以互相訪問。當客戶端發出訪問請求時,節點通過對文件不同的數據塊進行訪問,來對客戶請求作出相應處理。在SAN 塊存儲系統當中,響應請求可用節點的數量隨著用戶端發來的請求數量的增加而增加,同時節點自身的性能也會隨之提升。SAN 存儲架構具有優越的擴展性以及較高的數據傳輸效率,主要應用于云服務商構建私有云服務器的情況,企業一級存儲要求可借此得以實現。然而,SAN 存儲架構硬件價格高,相應的依托于SAN架構的存儲服務價格也會相對較高,為達到降低成本的目的,可以在一定程度上降低其性能。架構技術并非上述2 種,為追求更加低廉的成本以及更加優越的性能,發展出以SAN 為依托的OBS 以及集成文件系統。

    3 云存儲核心技術

    (1)存儲管理系統。在云存儲系統當中,存儲管理系統發揮著十分重要的作用。借助良好的云存儲管理系統,可以在很大程度上提高云存儲性能。例如,借助設備發現功能,云存儲服務商可以實時更新和維護云系統服務器,從而確保云系統配置的提高;借助故障管理功能,可以對系統故障進行自動檢測,當用戶租用的云存儲系統服務器出現問題,將會自動提供新的存儲空間,同時恢復備份服務器中存儲的用戶資料;借助分級存儲功能,實現對成本的有效控制,以數據存儲需求為依據,借助相應的存儲介質提供離線、近線以及再現存儲功能。總之,存儲管理系統時確保底層存儲架構自身性能得以充分發揮的有力保障。

    (2)云存儲服務API,該技術的主要作用是在云存儲自身功能基礎之上確保軟件供應產品研發的順利開展。對于獨立軟件供應商而言,在云存儲服務API 的支持之下,便可以控制數據存儲方式及位置,并有效控制用戶流程部署的時間成本,而這正是獨立軟件供應商所追求的,在新功能以及部署時間得到有效控制的支持下,獨立軟件供應商市場推廣的進程將會大大推進。

    (3)虛擬化技術。數據中心關鍵技術之一就是虛擬化技術,同樣在云存儲系統中扮演著關鍵角色。借助虛擬化技術可以將單臺服務器中的硬件資源區分為內存資源、處理器資源等,在此基礎上,按照不同用戶的具體要求,借助虛擬化軟件技術,對已經區分開來的硬件資源加以整合,從而使用戶對虛擬系統的需求真正得以實現;不僅如此,借助此虛擬系統,通過虛擬平臺池化技術,在對具體使用情況進行綜合考慮的基礎上加以變更。通過云存儲效用計算可以明確單個存儲單元使用時間,云計算服務提供商以此作為收費依據,而云存儲效用的計算正是建立在虛擬化技術基礎之上的。

    4 云存儲系統

    云計算環境是構建云存儲的重要基礎,所以,應以云計算分層結構為依據確定云存儲的分層結構。服務器集成技術是IAAS 層的主要組成部分,虛擬技術、存儲管理軟件以及云服務API 接口是PAAS層的主要組成部分,而SAAS 層則主要是由云應用以及云服務組建而成。云存儲系統主要是由各層要素組成的。

    5 結語

    高效云存儲如何構建、云存儲系統成本以及云存儲系統如何予以充分有效的利用是當前擺在我們面前的主要問題,隨著云存儲技術的不斷發展,將會找到解決這些問題的有效途徑,而這些問題及時有效的解決將會對云計算進一步發展發揮極大的促進作用。

    參考文獻:

    [1] 張洪娜.云計算平臺中數據存儲與文件管理的研究[D].廣州:廣東工業大學, 2011.

    [2] 侯建,帥仁俊,侯文.基于云計算的海量數據存儲模型[J].通信技術,2011(5):163-165.

    [3] 李煜民,章才能,謝杰.云計算環境下的數據存儲[J].電腦知識與技術,2010(5):1032-1034.

    第7篇:云計算的技術基礎范文

    關鍵詞:云計算;云存儲;分布式文件系統;安全問題

    中圖分類號:TP393 文獻標識碼:A文章編號:1007-9599 (2011) 17-0000-01

    Data Storage Issue Study under Cloud Computing Environment

    Cai Guoyu

    (Beijing Mandarin Gene Research Center,Beijing101300,China)

    Abstract:With the continuous development of computer technology,cloud computing and cloud storage as a new model,increasingly subject to personal and business concerns.In this paper,a brief description of cloud computing,based on the cloud computing environment for data storage is cloud storage body for analysis and research,demonstrated the great advantage of cloud storage and cloud storage constraints on the further development of a number of issues discussion.

    Keywords:Cloud computing;Cloud storage;Distributed file systems;Security

    伴隨著信息通信和處理技術的高速發展,計算機自問世以來,已經跨越了單機系統時代、網絡系統時代、Web服務與網絡時代,進入了云計算時代。云計算的出現,帶來了商業模式和工作方式的革命性轉變,改變了過去數據主要集中在本地存儲和處理的傳統模式,使得企業機構和個人能夠方便快捷地通過網絡享受到計算力、存儲空間和軟件等服務,極大地降低了硬件等基礎設施的重復購置和閑置,有效避免了人力資源的浪費,節約了大量的資金和人力支出。

    一、云計算定義

    云計算是一種基于共享基礎架構的商業計算模型,是分布式計算、網格計算和并行計算等多種計算方式的發展和商業實現。從實質上看,云計算就是一種分布式計算,通過網絡將分散的計算與存儲資源有效地連接、整合起來,為用戶提供服務。而實現云計算服務的基本條件之一就是高性能的云存儲。

    二、云存儲概況

    云存儲是伴隨云計算概念發展出來的新課題,它通過網絡和分布式文件系統將分散的存儲設備連接、整合成一個高效、便捷、可靠的系統,通過某種應用軟件共同一致地對外提供在線數據存儲和業務訪問服務。下面就云存儲的一些主要問題做個簡要的介紹。

    (一)分布式文件系統。分布式文件系統是云存儲的核心。利用分布式文件系統可以實現云存儲系統中不同存儲設備之間的協同工作,對外提供同一種服務,并提供更優質更快速的數據訪問性能。分布式文件系統的特點:(1)安全性(2)可靠性(3)實用性(4)可維護和拓展升級性(5)數據可復制和同步性。

    (二)云存儲技術。為保證數據的安全、可靠、實用,云計算采用分布式存儲的方式和冗余存儲的方法來進行數據的存儲,具有數據處理能力強和傳輸迅速的優點。目前,較為成熟的主流云計算數據存儲技術有谷歌的GFS和Hadoop開發團隊開發的HDFS。

    三、云存儲的優勢

    云存儲作為一種新興的存儲模式,具有不可抗拒的諸多優點:

    (一)對政府機構用戶。由于政府機構的特殊性,對其數據安全性和可備份性的要求特別嚴格。云存儲的應用,避免了因不可抗力或操作不當情況等原因,而造成數據丟失所引發的嚴重后果,節約了大量額外財政支出。

    (二)對企業用戶。隨著企業信息化建設的不斷發展和深化,現代企業越來越重視核心數據的存儲安全和信息管理系統化辦公的實現。云存儲模式的不斷成熟,使得企業可以通過網絡,在云端建立包括數據庫和各類信息管理系統在內的綜合平臺,實現遠程移動辦公,實現管理信息系統化。企業信息化的發展,促進了信息的有效流通和資源知識的共享,極大提高了工作和管理效率,降低了管理成本,為企業適應激烈的市場經濟競爭環境,求得最大經濟效益提供了保證。

    (三)對個人用戶。云存儲模式的出現,為個人用戶提供了幾乎無限容量的穩定空間,以便其保存日益增多的照片、視頻、音頻、電子文檔等個人數據。用戶可以通過功能設置,進行數據文檔的瀏覽、同步修改、共享等操作,十分便捷和方便。

    四、云存儲發展應該注意的問題

    目前來看,云存儲還不那么完善和成熟,處于快速發展階段。它的完善和成熟,不單單是單純靠技術層面所能解決的。云存儲要想得到類型不同、不同需求群體的共同認可,得到大范圍的廣泛應用,還有諸多問題亟待解決。

    (一)安全性。不同用戶的數據,包括著大量的機密和個人隱私等均被遠程存儲到同一個云存儲提供商那里,如何才能保證其數據具有安全性和私密性,保證私有數據不被云存儲提供商內部或無授權的用戶瀏覽和散播,是制約云存儲發展的首要問題。

    (二)可靠性。若云端數據遭到破壞,造成數據的全部或部分丟失、缺損,云存儲提供商能否快速全面的恢復數據,并保證數據的完整性。

    (三)實用性和便捷性。通過密碼驗證或其他有效的形式,云存儲提供商必須保證任何用戶使用任何終端,均能通過網絡在任何時間、地點享受到云存儲的優質服務,并且做到操作簡易和人性化。

    (四)優質服務。用戶與云存儲提供商簽訂服務協議或合同后,將數據存儲到云端,云存儲提供商必須要保證提供7*24小時不間斷的優質貼心服務。對用戶反饋的問題或意見,能及時解決和處理。

    (五)低成本性。云存儲的一大優勢就是成本優勢,因此云存儲提供商應采取有效措施,在保證安全可靠的前提下,進行技術創新和改進,不斷降低成本,促進云存儲服務的大面積普及。

    五、結束語

    作為目前來說的一種先進技術,云存儲占據著壓倒性的優勢,有著不可抗拒的吸引力,代表著未來存儲發展的必然趨勢。我們下一步的重點,將是從技術、用戶需求等多層面、多角度著手,完全解決實用性、可靠性、安全性等問題,促進云存儲的盡快成熟和完善,以便其早日獲得廣泛應用。

    參考文獻:

    [1]王德政,申山宏,周寧寧.云計算環境下的數據存儲[J].計算機技術與發展,2011,21-4:81

    第8篇:云計算的技術基礎范文

    【關鍵詞】云計算環境 大規模數據處理 應用 計算平臺

    一、引言

    隨著世界經濟的快速發展,科學技術水平的不斷提高,計算機技術日新月異,互聯網時代信息與數據處理技術發展相當迅速,越來越多的行業領域在日常事物的處理中運用到了計算機技術對大規模的數據進行處理,如鐵路公路等交通售票業務、各大型電子商務平臺的交易處理、人口普查、商業貿易等,數據處理可比較輕松的達到GB,TB,例如淘寶網每天的交易數據就很多,這些就需要運用到計算機的大規模數據處理技術。云計算技術作為新一代的計算模型代表,可以通過網絡計算、效用計算、服務計算等技術進行綜合演化,具有處理上述問題的關鍵技術特點。

    二、對大規模廉價計算平臺的研究

    針對目前對大規模數據信息以及計算資源的特征及對大規模數據進行數據處理的要求,可以對眾多閑置的計算機資源進行重新組建,組建成大規模的廉價集群計算平臺,在原有的云計算基礎上,對Hadoop進行資源整合,采用MapReduce編程規模,將大規模的數據處理任務進行相應的任務分解,分解成很多的細粒度的子任務,然后在多個計算節點上對這些子任務進行計算處理,從而實現在云環境下對大規模數據進行處理的能力。

    當計算資源和存儲資源虛擬化被創建之后,需要一個與其對應的虛擬化的解決方案對其進行處理,從而需要創建一個大規模的計算平臺對云環境下的大規模數據進行處理,作為大規模數據處理的一個重要環節,這一過程可以通過以下幾個步驟進行實現:

    (一)對數據處理所需的資源進行參數化的配置

    各用戶在對計算節點資源池進行部署和使用前,首先都要對需要部署和使用的計算資源進行選擇,并對相應的參數進行設置,通過這一選擇部署的過程獲得自己所需要的計算資源和存儲資源,提供者則需要在不同的操作模式中,對底層計算資源屬性進行部署,從而為用戶提供需要的參數服務。

    (二)對計算資源和存儲資源進行部署

    這一步驟需要根據第一步定制的設置參數,來確定部署大規模數據處理中的計算資源以及存儲資源,以及設計相應的數據處理和計算流程的部署方案。

    (三)對定制化參數進行保存

    將在第一步驟中產生的相關參數設置信息寫入到計算資源以及存儲資源的相關配置文件中,用來實現資源流程調度的分配,從而啟動相應計算節點的計算資源以及存儲資源,或者管理部署計算節點的定制處理服務。

    (四)進行計算節點的選擇,配置相應計算流程

    在對大規模數據盡心處理的過程,對所需要的軟硬件資源進行檢測管理中,部署工具會通過網絡連接到目標計算節點上,并且對相應的計算流程進行相關配置,配置成功后,開始對大規模數據的處理的方案進行執行分析。同時通過代碼對計算資源和存儲資源進行相應的執行分配。

    (五)對計算流程進行部署實施

    在以上步驟實施后,并通過外部數據處理資源管理實施方案的監測,在眾多的計算節點上,對大規模數據處理的部署進行實施。

    (六)激活計算流程和計算資源、存儲資源

    在步驟五開始實施后,通過計算機網絡,對各個計算節點一系列的數據處理命令,完成對大規模數據計算的部署調度,對整個計算過程進行激活處理,成功激活后,在各計算節點具體執行相應的計算流程。

    三、基于云計算的大規模數據處理框架模型

    根據大規模數據處理的要求,將計算機網絡技術和云計算技術引入到大規模數據的計算處理中,提出了基于云計算的大規模數據處理的框架模型。此模型可以分為兩級,第一級是底層的大規模廉價計算機集群及虛擬資源;第二級是對第一級的數據資源的處理和監測管理體系??梢栽诖嘶A上,創建一個大規模數據處理的計算平臺,實現數據處理的資源配置、回收、問題及錯誤處理,為各個領域的不同用戶提供大規模數據處理的計算平臺的相應軟件支持。通過編程和相應的任務處理,將最終的結果以云服務形式提供給終端用戶。并可以通過Web Service方式提供接口進行訪問,并對大規模數據進行處理以及接受相應的反饋。

    本文探討了對此框架的初步實現,并使用HDFS以及MapReduce對大規模數據進行協調處理。

    (一)搭建大規模計算機集群環境

    通過將MapReduce任務進行分解,將大規模數據分解為各個子任務,根據子任務的大小和數目的多少,分別將子任務分別放置在相應的計算機節點中,并對不同的節點分別進行角色設置。

    (二)數據處理任務的轉移

    將大規模數據載入到Hadoop提供的分布式文件系統中,并將MapReduce的各個數據處理子任務轉移到相應的計算節點上。

    (三)大規模數據處理的分布化

    大規模數據處理的分布化,需要Map函數、Reduce函數以及相關的程序進行對數據處理的實現。并運行MapReduce。MapReduce的實現機理見圖1.

    (四)數據處理結果的反饋

    在反饋數據處理結果時,需要用戶驗證接口,通過相應的云服務平臺將數據處理結果反饋給相應的需求者。

    四、大規模數據處理的實例

    通過對上述大規模數據處理的框架模型的分析,以淘寶商城的大規模Web日志的數據處理為實例,對多個站點前段的原始Web日志文件進行收集以及數據處理,可以通過以下步驟進行。

    (一)首先需要對站點前段的Web日志進行收集整理,并將這些Web日志進行相應的存儲。

    (二)對收集的Web日志的相應數據配置統一的格式。因為收集的Web日志是從不同的站點進行收集的,Web日志的來源相對來說比較復雜,沒有統一的格式,所以需要對這些大量的日志配置統一的格式,在格式統一化時,要在不改變相應數據的前提下進行,要保證數據的完整性。

    (三)將所收集的Web日志導入到HDFS中,利用HDFS的備份機制和數據存儲的原理,分別建立各個節點的通訊方式,并對其配置相對應的名稱節點和數據節點等。

    (四)將數據進行統一格式化,以及對其配置相應的節點信息之后,要利用MapReduce模型的處理相關數據的規則設計和計算功能。這部分作為數據處理的核心內容,也是整個大規模數據處理工作的重心所在。

    (五)在數據處理完畢,并將處理完的數據導出之后,要按照規定的輸出格式和要求對數據進行保存,以方便用戶對相應處理結果的分析處理工作的進行。

    (六)最后,用戶收到相應的數據處理結果后,需要將處理結果進行反饋,并且對處理過程中所產生的垃圾數據進行相應的清理。

    數據處理需要較多的環節,在每一個環節的數據處理中,都需要對相應的數據處理進行一定的監控,并對整個框架模型的工作情況進行監控,以盡早的發現運行中出現的問題,及時對數據處理中出現的問題及錯誤進行解決糾正。

    五、結論

    綜上所述,本文對云計算環境下的大規模數據處理技術進行了分析研究,通過對數據處理廉價計算平臺的創建以及對云計算環境下大規模數據處理的框架模型的研究,分析了云計算技術在大規模數據處理中的用途。并且通過實例分析,對電子商務平臺的Web日志的大規模數據進行計算分析,更清晰明了的闡述了云計算環境下的大規模數據處理的方式方法。

    參考文獻:

    [1]于戈,谷峪,鮑玉斌,王志剛:《云計算環境下的大規模圖數據處理技術》,計算機學報,2011(10)

    [2]王嘉,陳超:《云計算環境下大規模數據處理的研究》,中國電子商務,2013(09)

    [3]白亞魯:《云計算環境下大規模數據處理的研究》,軟件雜志,2013(5)

    第9篇:云計算的技術基礎范文

    關鍵詞:計算機技術;通信領域;計費系統;信息管理系統

    中圖分類號:TN915

    隨著經濟社會的發展和科學技術的進步,計算機技術不斷取得革新,并在各行各業的運用越來越廣泛。在通信領域運用就是其中的一個重要方面,將計算機技術運用到通信領域,能夠促進二者的融合,充分發揮各自的優勢,給人們的通信帶來巨大的便利,今后還應該采取相應的措施,促進計算機技術在通信領域得帶更好的運用。

    1 計算機通信的特點

    1.1 計算機技術。計算機技術包括計算機領域內所使用的技術手段和技術方法,一般分為硬件和軟件。硬件主要包括運算器、控制器、存儲器、輸入設備、輸出設備。不同的組成部分有著不同的作用,對整個計算機運行產生重要的影響。而計算機軟件是指系統中的程序和程序文檔,是用戶和計算機進行交流的界面。

    1.2 通信技術。通信技術是人們進行通信的手段和方法,現代通信技術以計算機技術為基礎,具有快捷、安全、方便等特點。

    1.3 計算機通信的特點。計算機通信是數據通信的方式,主要表現是在計算機之間,或者在計算機與終端設備之間進行信息傳遞,它實現了計算機技術和通信技術的融合,具有自己顯著的特點,也有著廣泛的運用領域。具體來說,其主要特點表現在以下幾個方面:數據信息傳輸效率非常高,每分鐘能夠傳輸的字符大約在48萬個左右;抗干擾能力強,采用二進制方式進行數據和信息傳遞,有利于保證數據傳輸的安全性;能夠進行多媒體通信,能夠傳輸和再現文字、語言、聲音、圖像。

    2 計算機技術在通信領域的運用

    計算機技術適應了通信工作的實際需要,在通信領域有著廣泛的運用。同時,它也為用戶提供了一個高效、快速、統一的全球通信環境,給人們的通信帶來巨大的方便。具體來說,主要表現在以下幾個方面。

    2.1 計費系統。隨著交換機技術的發展,人們對交換系統提出了更高的要求,傳統的交換系統逐漸不能滿足人們的需要,在整個系統中要有專門的計費功能,而用戶機大部分通過專業計算機進行計費。運用專用計算機計費功能多,冗余度較大,存儲容量大,能夠根據用戶的不同需求設計相應的功能。例如,在賓館服務中將電話計費和客房管理計算機聯網,能夠實現綜合管理,統一進行結賬。還有一些單位能夠根據自己的實際情況,采用分類計費方式,而計算機計費系統適應了這種需要,能夠很好的進行計費和管理,大大方便的人們的通信。

    2.2 信息管理系統。伴隨著技術的發展和保密、管理等工作的需要,各行各業對信息管理的需求不斷增加,進而促進了信息管理的多樣化。在進行通信的時候,為了能夠有效充分的利用計算機,通常使用數據信息系統來進行管理,這樣能夠大大提高用戶的工作效率,對整個企業發揮更大的作用。為了進行信息管理,相關部門需要協調工作,上級業務部門需要加強協調和指導,根據企業各級單位通信和管理工作的實際需要,綜合考慮,做好規劃工作,先單機后網絡。先實行辦公自動化,再實行遠程自動化,使得終端設備運轉起來。在整個信息管理的過程中,通過對計算機通信軟件的應用,不僅解決了其中很多繁瑣的問題,還有利于協調各部門各單位的聯系,提高信息傳遞效率和工作效率。

    2.3 自動查號和數據管理。在自動查號和數據管理領域中,計算機通信也有著廣泛的運用。例如,公用網的長途電話局,短途市話局等等,它們都采用計算機自動查號的方式,具有良好的效果,與傳統手工方式相比而言,不僅查號迅速,而且方便,不容易出錯,大大提高了準確度。此外,還能夠為用戶提供其它多方面的功能,包括統計功能、更新數據、修改用戶密碼等功能,這些功能的設計,大大方便了用戶的通信,也便利了通信管理工作。此外,開發者在進行系統規劃和開發的時候,可以使系統具有自動查號功能,還可以開發相應的系統,能夠實現對通信部門數據的有效管理,也能為人們進行通信創造有利于條件。

    3 促進計算機技術在通信領域更好運用的策略

    伴隨著計算機軟件、硬件的發展,計算網絡技術的升級,在這樣的基礎上,通信技術將會取得進一步發展和升級。通過計算機技術,對相關通信信息進行處理的時候,能夠將散亂的信息有效的集成起來,提高信息處理效率。同時,通信技術在計算機技術的支撐下,還能夠實現對圖像、聲音、文字資料的傳遞,與數控信息傳遞相比而言,計算機通信技術的靈活性更大,傳遞效果更好,更能夠滿足人們通信的需求。因此,計算機技術在通信領域將會有著十分廣闊的運用前景,將會成為未來通信領域運用的主流,為了順應這種趨勢,促進計算機技術在通信領域得到更好的運用,今后需要加強以下幾個方面的工作。

    3.1 注重計算機技術和通信技術創新。要注重技術創新,加大對核心技術的攻關力度,通過技術創新來促進計算機技術和通信技術的升級。加大對前沿領域的研究,注重學習國外先進的技術成果,通過消化、吸收、再創新,在通信的關鍵領域內取得突破,提高技術研發能力,掌握自主知識產權,提高核心競爭能力。要加大計算機技術在通信領域運用的研發力度,注重技術攻關,在現有的資源的基礎上,充分利用相關的研究資源,調動各方工作的積極性和主動性,促進計算機技術在通信領域得到更好的運用。

    3.2 完善相關的法律法規與政策。在推動計算機技術和通信技術發展的時候,相關法律法規的作用是不言而喻的。所以,必須完善相關的法律法規。要注重知識產權的保護,鼓勵和推動技術創新,加大對人們智力成果的保護力度。同時,還需要及時出臺相關的政策,加大對計算機技術和通信技術發展的引導,為計算機技術和通信技術的發展營造良好的環境,促進技術升級,為人們的通信帶來更大的便利。

    3.3 加快計算機和通信人才的培養步伐。計算機技術和通信技術的發展最終離不開人才的支撐,其發展水平也與人才的質量息息相關。因此,要牢固樹立人才資源是第一資源的觀念,創新用人機制,注重對優秀人才的引進工作,為該領域的發展儲備人才。完善相關的待遇和鼓勵措施,為各類優秀的人才脫穎而出創造有利環境。要充分利用年輕人才,培養復合型人才,對于科研能力強,創新意識強的人才應該給予待遇和福利上的優惠,使他們更好的為計算機技術和通信技術的發展服務。同時,加強與科研院校的合作,引進和吸收高層次人才到計算機和通信領域工作,進一步推動計算機和通信技術的發展,促進二者更好的融合,為人們通信和日常生活帶來更大的便利。

    4 結束語

    總而言之,計算機技術的誕生和發展給通信領域帶來巨大的變革,大大方便了人們的日常通信和聯系。今后在實際工作中,我們需要認識這種趨勢和變革,并注重技術創新,加快人才的培養,促進計算機技術和通信技術的發展和升級,使計算機技術在通信領域得到更好的運用,為人們的通信帶來更大的便利。

    參考文獻:

    [1]張寒冰,朱寧.試論計算機技術在通信領域的應用[J].無線互聯科技,2013(1):47-48.

    [2]劉秋喜.通信領域中計算機技術的應用研究[J].數字化用戶,2013(13):7.

    [3]蔣巍.計算機技術在通信領域中的應用研究[J].大觀周刊,2012(14).

    相關熱門標簽
    主站蜘蛛池模板: 久久亚洲国产成人精品性色 | 国内外成人免费视频| 久久亚洲色www成人欧美| 亚洲国产一成人久久精品| 欧洲成人在线视频| 国产成人女人在线观看| 中文成人无字幕乱码精品区| 毛片基地看看成人免费| 国产精品成人网| 草莓视频成人appios| 成人免费无码大片a毛片软件| 国产成人av大片大片在线播放| 欧美成人免费tv在线播放| 国产成人综合亚洲绿色| 爱情岛永久地址www成人| 四虎成人免费大片在线| 成人国产一区二区三区精品| 亚洲va在线va天堂成人| 成人一a毛片免费视频| 中文成人无字幕乱码精品区| 国产成人欧美一区二区三区 | 欧美成人鲁丝片在线观看| 国产成人h在线视频| 国产精品成人va在线观看| 精品国产成人亚洲午夜福利 | 亚洲国产成人99精品激情在线| 怡红院成人影院| 成人免费无码精品国产电影| 欧美日韩国产成人高清视频| 久久成人综合网| 亚洲最大成人网色| 国产成人精品一区二区三在线观看| 5g影院欧美成人免费| 中文国产成人精品久久app| 四虎永久成人免费影院域名| 国产成人久久精品区一区二区| 国产成人精选免费视频| 国外成人免费高清激情视频| 国产成人精品无码播放| 国产成人免费片在线观看| 国产成人久久精品麻豆二区|