WebインターフェイスでのSparkの監視
Spark Webインターフェイスは、DataStax Enterpriseにバンドルされています。Spark Webインターフェイスを使用すると、Sparkの監視、デバッグ、管理を容易に行うことができます。
DataStax EnterpriseにバンドルされているWebインターフェイスを使用すると、Sparkの監視、デバッグ、管理を容易に行うことができます。
Spark Webインターフェイスを使用する
- SparkノードのパブリックIPアドレスに続き、ポート番号7080をブラウザーに入力します。DSE 5.1以降では、Analyticsデータ・センター内のすべてのSparkノードは、現在のSparkマスターにリダイレクトします。
- ポートを変更するには、spark-env.sh構成ファイルを変更します。ポート番号を変更する場合は、データ・センターの各ノードを同じポート番号に設定します。
Sparkマスターを利用できない場合は、マスターが利用できるようになるまで、UIは10秒ごとにSparkマスターのポーリングを継続します。
Spark Webインターフェイスは、SSLを使用してセキュリティを確保できます。WebインターフェイスのSSL暗号化は、クライアント暗号化を有効にすると、デフォルトで有効になります。
認証が有効で、プレーン認証が利用可能な場合、Web UIにアクセスすると、認証情報に関するプロンプトが表示されます。認証付きのSSLを使用することを推奨します。
spark.ui.filters
設定を削除して、Spark Web UIの認証のみを無効にします。
パッケージ・インストールInstaller-Servicesインストール |
/etc/dse/spark/spark-daemon-defaults.conf |
tarボール・インストールInstaller-No Servicesインストール |
installation_location/resources/spark/conf/spark-daemon-defaults.conf |
DSE SSL暗号化と認証は、SparkマスターとワーカーのUIのみに適用され、SparkドライバーUIには適用されません。ドライバーUIで暗号化や認証を行うには、Sparkのセキュリティに関するドキュメントを参照してください。
Spark Web UIでは、権限管理はサポートされていません。認証済みユーザーは、UI内のすべてのSparkアプリケーションを監視および管理できます。
Web UIでの完全修飾ドメイン名の表示
完全修飾ドメイン名(FQDN)をSpark Web UIに表示するには、各Analyticsノードでspark-env.shのSPARK_PUBLIC_DNS
変数を設定します。
Web UIのSSLが有効な場合、SPARK_PUBLIC_DNS
をノードのFQDNに設定します。
パッケージ・インストールInstaller-Servicesインストール |
/etc/dse/spark/spark-env.sh |
tarボール・インストールInstaller-No Servicesインストール |
installation_location/resources/spark/conf/spark-env.sh |
Spark Driver UIでのプロパティのフィルター処理
SparkドライバーUIには、Sparkで使用されているSpark構成とシステム・プロパティの一覧が表示される[Environment]タブがあります。この中には、パスワードやセキュリティ・トークンなどの機密情報が含まれる可能性があります。DSE Sparkでは、こうしたプロパティをフィルター処理し、一連のアスタリスクを使用して、その値をマスクします。spark.ui.confidentialKeys
フィルターは、正規表現のコンマ区切りリストとして構成されます。デフォルトでは、この中には、「token」または「password」という文字列を持つすべてのプロパティが含まれます。フィルターを変更するには、Spark構成ディレクトリーにあるspark-defaults.confのspark.ui.confidentialKeys
プロパティを編集します。
パッケージ・インストールInstaller-Servicesインストール |
/etc/dse/spark/spark-defaults.conf |
tarボール・インストールInstaller-No Servicesインストール |
installation_location/resources/spark/conf/spark-defaults.conf |