Lesen gz.parquet Datei

Question

Hallo Ich muss die Daten von gz.parquet Dateien lesen, aber nicht wissen, wie ?? Mit Impala versucht, aber ich bekomme das gleiche Ergebnis wie parquet-tools cat ohne die Tabellenstruktur.

S.S .: alle Vorschläge zur Verbesserung des Funkencodes sind sehr willkommen.

Ich habe folgendes Parkett Dateien gz.parquet als Folge einer Datenrohrleitung von Twitter erstellt => Geränne => kafka => Funken streaming => hive/gz.parquet-Dateien). Für Gerinnen Mittel Ich bin mit agent1.sources.twitter-data.type = org.apache.flume.source.twitter.TwitterSource

Spark-Code de-Warteschlangen die Daten von kafka und in Bienenstock zu speichern, wie folgt:

val sparkConf = new SparkConf().setAppName("KafkaTweet2Hive") 

val sc = new SparkContext(sparkConf) 

val ssc = new StreamingContext(sc, Seconds(2)) 
val sqlContext = new org.apache.spark.sql.hive.HiveContext(sc)//new org.apache.spark.sql.SQLContext(sc) 

// Create direct kafka stream with brokers and topics 
val topicsSet = topics.split(",").toSet 
val kafkaParams = Map[String, String]("metadata.broker.list" -> brokers) 
val messages = KafkaUtils.createDirectStream[String, String, StringDecoder, StringDecoder](
    ssc, kafkaParams, topicsSet) 

// Get the data (tweets) from kafka 
val tweets = messages.map(_._2) 


//adding the tweets to Hive 

tweets.foreachRDD { rdd => 


    val hiveContext = SQLContext.getOrCreate(rdd.sparkContext) 

    import sqlContext.implicits._ 


    val tweetsDF = rdd.toDF() 
    tweetsDF.write.mode("append").saveAsTable("tweet") 

} 

Wenn ich die Funken Streaming-App laufen speichert er die Daten als gz.parquet in hdfs Dateien:/user/Nest/Lager Verzeichnis wie folgt:

[root@quickstart /]# hdfs dfs -ls /user/hive/warehouse/tweets 
Found 469 items 
-rw-r--r-- 1 root supergroup   0 2016-03-30 08:36 /user/hive/warehouse/tweets/_SUCCESS 
-rw-r--r-- 1 root supergroup  241 2016-03-30 08:36 /user/hive/warehouse/tweets/_common_metadata 
-rw-r--r-- 1 root supergroup  35750 2016-03-30 08:36 /user/hive/warehouse/tweets/_metadata 
-rw-r--r-- 1 root supergroup  23518 2016-03-30 08:33 /user/hive/warehouse/tweets/part-r-00000-0133fcd1-f529-4dd1-9371-36bf5c3e5df3.gz.parquet 
-rw-r--r-- 1 root supergroup  9552 2016-03-30 08:33 /user/hive/warehouse/tweets/part-r-00000-02c44f98-bfc3-47e3-a8e7-62486a1a45e7.gz.parquet 
-rw-r--r-- 1 root supergroup  19228 2016-03-30 08:25 /user/hive/warehouse/tweets/part-r-00000-0321ce99-9d2b-4c52-82ab-a9ed5f7d5036.gz.parquet 
-rw-r--r-- 1 root supergroup  241 2016-03-30 08:25 /user/hive/warehouse/tweets/part-r-00000-03415df3-c719-4a3a-90c6-462c43cfef54.gz.parquet 

Das Schema aus _metadata Datei wird wie folgt:

[root@quickstart /]# parquet-tools meta hdfs://quickstart.cloudera:8020/user/hive/warehouse/tweets/_metadata 
creator:  parquet-mr version 1.5.0-cdh5.5.0 (build ${buildNumber}) 
extra:   org.apache.spark.sql.parquet.row.metadata = {"type":"struct","fields":[{"name":"tweet","type":"string","nullable":true,"metadata":{}}]} 

file schema: root 
--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- 
tweet:   OPTIONAL BINARY O:UTF8 R:0 D:1 

Außerdem

, wenn ich die Daten in einen Datenrahmen in Funken laden bekomme ich die Ausgabe von `df.show' wie folgt:

+--------------------+ 
|    tweet| 
+--------------------+ 
|��Objavro.sc...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|ڕObjavro.sch...| 
|��Objavro.sc...| 
|ֲObjavro.sch...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|֕Objavro.sch...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
|��Objavro.sc...| 
+--------------------+ 
only showing top 20 rows 

Wie immer würde Ich mag das Tweets als Klartext sehen?

Answer 1

sqlContext.read.parquet ("/ user/Nest/Lager/tweets"). Zeigen