【中國智能制造網(wǎng) 智造快訊】大數(shù)據(jù)已然成為當今熱門的技術(shù)之一，正呈爆炸式增長。每天來自的新項目如雨后春筍般涌現(xiàn)。幸運地是，開源讓越來越多的項目可以直接采用大數(shù)據(jù)技術(shù)，下面就來盤點受歡迎的開源的大數(shù)據(jù)技術(shù)。　　1.Hadoop——、可靠、可伸縮，能夠為你的數(shù)據(jù)存儲項目提供所需的YARN、HDFS和基礎架構(gòu)，并且運行主要的大數(shù)據(jù)服務和應用程序。
　　
　　2.Spark——使用簡單、支持所有重要的大數(shù)據(jù)語言(Scala、Python、Java、R)。擁有強大的生態(tài)系統(tǒng)，成長迅速，對microbatching/batching/SQL支持簡單。Spark能更好地適用于數(shù)據(jù)挖掘與機器學習等需要迭代的Map Reduce的算法。
　　
　　3.NiFi——Apache NiFi是由美國國家安全局(NSA)貢獻給Apache基金會的開源項目，其設計目標是自動化系統(tǒng)間的數(shù)據(jù)流?；谄涔ぷ髁魇降木幊汤砟睿琋iFi非常易于使用、強大、可靠、高可配置。兩個重要的特性是其強大的用戶界面和良好的數(shù)據(jù)回溯工具?？胺Q大數(shù)據(jù)工具箱里的瑞士軍刀。
　　
　　4.Apache Hive 2.1——Hive是建立在Hadoop上的數(shù)據(jù)倉庫基礎構(gòu)架。它提供了一系列的工具，可以用來進行數(shù)據(jù)提取轉(zhuǎn)化加載(ETL)，這是一種可以存儲、查詢和分析存儲在Hadoop中的大規(guī)模數(shù)據(jù)的機制。隨著新版本的發(fā)布，性能和功能都得到了全面提升，Hive已成為SQL在大數(shù)據(jù)上的佳解決方案。
　　
　　5.Kafka——Kafka是一種高吞吐量的分布式發(fā)布訂閱消息系統(tǒng)，它可以處理消費者規(guī)模網(wǎng)站中的所有動作流數(shù)據(jù)。它已成為大數(shù)據(jù)系統(tǒng)在異步和分布式消息之間的佳選擇。從Spark到NiFi再到第三方插件工具以至于Java到Scala，它都提供了強大的粘合作用。
　　
　　6.Phoenix—是H Base的SQL驅(qū)動。目前大量的公司采用它，并擴大其規(guī)模。HDFS支持的NoSQL能夠很好地集成所有工具。Phoenix查詢引擎會將SQL查詢轉(zhuǎn)換為一個或多個HBasescan，并編排執(zhí)行以生成標準的JDBC結(jié)果集。
　　
　　7.Zeppelin——Zeppelin是一個提供交互數(shù)據(jù)分析且基于Web的筆記本。方便你做出可數(shù)據(jù)驅(qū)動的、可交互且可協(xié)作的精美文檔，并且支持多種語言，包括Scala(使用ApacheSpark)、Python(ApacheSpark)、SparkSQL、Hive、Markdown、Shell等。
　　
　　8.Sparkling Water——H2O填補了Spark’s Machine Learning的缺口，它可以滿足你所有的機器學習。
　　
　　9.Apache Beam——在Java中提供統(tǒng)一的數(shù)據(jù)進程管道開發(fā)，并且能夠很好地支持Spark和Flink。提供很多在線框架，無需學習太多框架。
　　
　　10.Stanford Core NLP——自然語言處理擁有巨大的增長空間，斯坦福正在努力增進他們的框架。