I am getting the following error while connecting Cloudant DB from my local Spark cluster(PySpark) using spark-cloudant connector.
The spark-cloudant connector is: https://spark-packages.org/package/cloudant-labs/spark-cloudant
I am started my PySpark with following command,
pyspark2.cmd --jars "all jars for spark-cloudant connector"
The code I am using,
sqlContextNew = SQLContext(sc)
booksDataDF = sqlContextNew.read.format("com.cloudant.spark").option("cloudant.host","AAA-HOST").option("cloudant.username", "BBB-USERNAME"). option("cloudant.password","CCC-PASSWORD").load("booksdata")
Die Fehlermeldung ist: 16/07/22 23.01.51 INFO JsonStoreDataAccess: SparkEnv ActorSystem Wiederverwendung als es enthält spray 16/07/22 23.01.52 eRROR ActorSystemImpl: Uncaught fataler Fehler von Faden [sparkDriverActorSystem-akka.actor.default-Dispatcher-2] Abschalten ActorSystem [sparkDriverActorSystem] java.lang.ExceptionInInitializerErrorFehler beim Verbinden Cloudant DB von meinem lokalen Spark-Cluster (PySpark) unter Verwendung von Funken cloudant Stecker
verursacht durch : java.lang.NoSuchMethodError: scala.Predef $ ArrowAssoc $ .erweiterung $$ minus $ greater (Ljava/lang/Objekt; Ljava/lang/Objekt;) Lscala/Tuple2 bei org.parboiled.scala.Parser $ class.rule (Parser.scala: 73) bei org.parboiled.scala.Parser $ class.rule (Parser.scala: 46) bei spray.http.parser.HttpParser $ .rule (HttpParser.scala: 29) unter spray.http.parser.CORSHeaders $ class. $ timesAccess $ minusControl $ minusMax $ minusAge (CORSHeaders.scala: 59) at spray.http.parser.HttpParser $. $ timesAccess $ minusControl $ minusMax $ minusAge (HttpParser.scala: 29)
Hallo @Mayya Sharipova, Spark-Version, die ich verwende, ist Spark-1.6.0-bin-hadoop2.6 (Scala 2.10). Die Version mit dem Zündkerzwolkenstecker ist spark-cloudant-1.6.2-s_2.10.jar. Ich frage mich, was passiert, lassen Sie es mich wissen, wenn Sie einen anderen Punkt zu überprüfen haben. Ich werde das Gleiche versuchen. Danke für dein Update. –
@PariMargu Was ist Scala-Version auf Ihrem Computer installiert? –
Hi @Mayya Sharipova, Scala Version 2.10.5 ist auf meinem Computer installiert. –