Sparkのロギング・オプションの構成
Sparkのロギング・オプションを構成します。
ログ・ディレクトリー
logback.xmlファイルの場所は、インストールのタイプによって異なります。
Installer-Servicesおよびパッケージ・インストール | /etc/dse/cassandra/conf/logback.xml |
Installer-No Servicesおよびtarボール・インストール | install_location/resources/cassandra/conf/logback.xml |
Sparkロギング・ディレクトリーは、Sparkコンポーネントが個々のログ・ファイルを格納するディレクトリーです。DataStax Enterpriseでは、以下の場所にログが配置されます。
- エグゼキューター・ログ
-
- SPARK_WORKER_DIR/worker-n/application_id/executor_id/stderr
- SPARK_WORKER_DIR/worker-n/application_id/executor_id/stdout
- Sparkマスター/ワーカー・ログ
- Sparkマスター:グローバルのsystem.log
- Spark CQL Thriftサーバーのデフォルトのログ・ディレクトリー
- Spark CQL Thriftサーバーを起動するためのデフォルトのログ・ディレクトリーは、$HOME/spark-thrift-serverです。
- SparkシェルおよびSparkアプリケーションのログ
- SparkシェルおよびSparkアプリケーションのログは、コンソールに出力されます。
- ログ構成ファイル
- ログ構成ファイルは、spark-env.shと同じディレクトリーにあります。
手順
Sparkのロギング・オプションを構成するには、以下の操作を実行します。