本篇文章847字,讀完約2分鐘

阿里云國際站經銷商,主營阿里云,騰訊云,華為云,亞馬遜aws,谷歌云gcp,微軟云az,免費開戶,代充值優(yōu)惠大,聯系客服飛機@jkkddd


通過ES-Hadoop實現Hive讀寫阿里云Elasticsearch數據

準備工作
創(chuàng)建同一專有網絡下的阿里云Elasticsearch和E-MapReduce(以下簡稱EMR)實例、關閉Elasticsearch實例的自動創(chuàng)建索引功能并創(chuàng)建索引和Mapping、下載與Elasticsearch實例版本一致的ES-Hadoop安裝包。
步驟一:上傳ES-Hadoop JAR包至HDFS
將已下載的ES-Hadoop安裝包上傳至EMR Master節(jié)點的HDFS目錄下。
步驟二:創(chuàng)建Hive外表
創(chuàng)建Hive外表,與Elasticsearch索引中的字段進行映射。
步驟三:通過Hive寫入索引數據
通過HiveSQL,向Elasticsearch實例的索引中寫入數據。
步驟四:通過Hive讀取索引數據
通過HiveSQL,讀取Elasticsearch實例中的索引數據。
步驟一:上傳ES-Hadoop JAR包至HDFS
下載ES-Hadoop安裝包,其版本需要與Elasticsearch實例保持一致。
本文使用elasticsearch-hadoop-6.7.0.zip。
登錄E-MapReduce控制臺,獲取Master節(jié)點的IP地址,并通過SSH登錄對應的ECS機器。
具體操作步驟請參見登錄集群。
將已下載的elasticsearch-hadoop-6.7.0.zip上傳至Master節(jié)點,并解壓獲得elasticsearch-hadoop-hive-6.7.0.jar。
創(chuàng)建HDFS目錄,將elasticsearch-hadoop-hive-6.7.0.jar上傳至該目錄下。
步驟二:創(chuàng)建Hive外表
在EMR控制臺的數據開發(fā)模塊中,創(chuàng)建HiveSQL類型的作業(yè)。
具體操作步驟請參見Hive SQL作業(yè)配置。

標題:阿里云24h自助充值,免費開戶

地址:http://0bc8wa.cn/kfxw/64142.html