大數(shù)據(jù)驅動時代云計算規(guī)模化高性能計算

2013-10-25 13:33:42 ZDnet 　點擊量：評論 (0)

不久前的一次互聯(lián)網(wǎng)大會上，與會人員已經(jīng)明確將重點放在擴大網(wǎng)絡帶寬和通過網(wǎng)絡的增強提高合作方面，這將帶來更好的視頻會議和其他大數(shù)據(jù)應用。　　這些活動使企業(yè)都意識到他們將為大數(shù)據(jù)創(chuàng)造更大的網(wǎng)絡管

，以確保每個人都遵循相同的大數(shù)據(jù)政策和程序，以便讓企業(yè)所需要的大數(shù)據(jù)類型被存儲、收集，并符合其最終的經(jīng)營宗旨。
　　所有上述這一切都是艱難的，勞動力密集的工作，可能并不總是出現(xiàn)在項目的時間表里，但卻是必不可少的。
　　IT部門如何確保其管治滿足大數(shù)據(jù)發(fā)展的步伐?
　　協(xié)調監(jiān)管和審計，提前確保你的企業(yè)所管治的大數(shù)據(jù)是最新的。同時也必須意識到，未來相關管理法規(guī)的變化，可能會影響數(shù)據(jù)治理。
　　大數(shù)據(jù)項目是跨學科的，因為大數(shù)據(jù)的有效管理是每個人的責任。
　　由于這些工具的靈活性，這些工具現(xiàn)在也正在為企業(yè)提供一個直接與大數(shù)據(jù)整合的平臺，如Hadoop和Cassandra(一個混合型的非關系的數(shù)據(jù)庫)。然而，現(xiàn)在我們看到，老的供應商也開始在以新產(chǎn)品打入市場的堆棧來解決這一差距，并希望在未來一兩年內(nèi)再次洗牌，重新鞏固市場。
　　在大數(shù)據(jù)領域，高性能是一項特別的挑戰(zhàn)。大數(shù)據(jù)量的特質和查詢速度使得數(shù)據(jù)將通過倉庫工具Hive進行整合，這意味著直接針對數(shù)據(jù)的查詢將抑制工具的動態(tài)性能。
　　這些工具的關鍵用例是快速的發(fā)現(xiàn)而非創(chuàng)造標準的報告。這意味著所需的數(shù)據(jù)在本質上是暫時性的——需要支持一種假設，然后丟棄。這導致了實現(xiàn)高性能的領先方案是創(chuàng)建特定的數(shù)據(jù)集，例如，通過引導圖減少工作量，以及捕捉可視化工具中的內(nèi)存。
　　可視化工具的一個關鍵性的好處是，他們改變了項目交付的方法。因為他們允許通過原型快速實現(xiàn)價值可視化，他們能夠在被納入一個工業(yè)化的平臺之前，在低成本點證明價值。作為這一進程的一部分，可視化工具提供了一個共同的語言，通過它，企業(yè)的IT部門和業(yè)務部門可以進行溝通。這就創(chuàng)造了一個對于需求的清晰的認識，有助于設置什么能夠被交付的期望。
　　雖然能夠實現(xiàn)數(shù)據(jù)的快速可視化有很多好處，我們也看到創(chuàng)建Excel電子表格或者Access數(shù)據(jù)庫進行數(shù)據(jù)庫訪問所存在的一些老的內(nèi)在危險問題。鑒于此，支持大數(shù)據(jù)可視化必須采用一個強大的數(shù)據(jù)管理方法已經(jīng)是一個不爭的事實。
　　這將創(chuàng)建一個混合環(huán)境的需要。在實踐中，這意味著數(shù)據(jù)首先是在大數(shù)據(jù)環(huán)境下進行探索;然后，如果這些探索揭示了某些數(shù)據(jù)報道所需要的價值，此時數(shù)據(jù)才被推廣到傳統(tǒng)的關系型數(shù)據(jù)庫，無論是MPP或內(nèi)存中的。
　　不容忽視的最后一個方面是，這些工具對于業(yè)務部門和IT部門之間的關系所產(chǎn)生的影響。可視化工具將授權業(yè)務，從而幫助企業(yè)業(yè)務部門實現(xiàn)快速的見解，并驅動更高價值的數(shù)據(jù)資產(chǎn)。因此，IT部門將需要以一套更加靈活的方式來提供數(shù)據(jù)。
　　這將創(chuàng)建一個二分法。一方面，必須迅速提供信息，在更傳統(tǒng)的過程以外驅動價值。另一方面，一旦解決方案需要工業(yè)化，還需要通過更傳統(tǒng)的項目進行剛性的治理。未能達到適當?shù)钠胶猓瑫е麓煺酆蛢r值的明顯減少。
　　兩個部門都有其自己的責任：業(yè)務部門需要建立適當?shù)亩床煲娊猓⒋_保以企業(yè)正常的運作方式驅動變革，而IT部門需要提供一套適當治理水平的數(shù)據(jù)服務。