DataStax Enterprise 5.1から6.7へのアップグレード

コア・ストレージ・エンジンのリファクタリングを必要とするために、いくつかの内部およびベータ拡張ポイントが変更されています。DSE 6.7にアップグレードする際は、以下のインターフェイスを含むすべてのカスタム実装を、サポート対象の実装に置き換える必要があります。DSE 6.7では、以下のインターフェイスのリライトが必要です。（ご不明な点がある場合は、DataStaxサービス・チームにお問い合わせください。）

• org.apache.cassandra.triggers.ITriggerインターフェイスは、ノンブロッキング内部アーキテクチャーのためにaugmentからaugmentNonBlockingに変更されました。アップグレードされたノードでは、更新されたトリガーの実装が必要です。わからない場合は、アップグレードの前に既存のトリガーをすべて削除してください。既存のトリガーをチェックするには、次のようにします。

  SELECT * FROM system_schema.triggers

• org.apache.cassandra.index.Indexインターフェイスは、コア・ストレージ・エンジンの変更に合わせて変更されました。更新された実装が必要です。わからない場合は、アップグレードの前に既存のカスタム・セカンダリ・インデックスをすべて削除してください。ただし、DSE Searchインデックスについては、置き換える必要はないため、削除する必要はありません。既存のインデックスをチェックするには、次のようにします。

  SELECT * FROM system_schema.indexes

• org.apache.cassandra.cql3.QueryHandler、org.apache.cassandra.db.commitlog.CommitLogReadHandler、およびその他の拡張ポイントが変更されています。「QueryHandlers」を参照してください。

必要なディスク領域は、コンパクション戦略によって異なります。「ディスク領域」を参照してください。

• DataStax Enterprise 6.7のリリース・ノート。
• 任意のバージョンのアップグレードに関する一般的なアドバイス。NEWS.txtを現在ご使用のバージョンの箇所まで必ずお読みください。
• DataStax Enterpriseの変更点については、CHANGES.txtに記載されています。
• DataStaxドライバーの変更点。

dse -v

必ず現行バージョンの最新のパッチ・リリースにアップグレードしてから、新しいバージョンにアップグレードしてください。最新のパッチ・リリースに含まれている修正によって、アップグレード・プロセスが向上するか、スムーズになる場合があります。

nodetool upgradesstables

SSTableが既に現在のバージョンになっている場合、このコマンドは即座に終了し、アクションは発生しません。

構成ファイルは、新しいバージョンのインストール中にデフォルト値で上書きされます。

java -version

• 推奨。OpenJDK 8（1.8.0_151以上）
  注: Oracle JRE/JDK 8の公開更新が終了したため、推奨が変更になりました。Oracle Java SE Support Roadmapを参照してください。
• サポートされているもの。Oracle Java SE 8（JREまたはJDK）（1.8.0_151以上）

1. Thrift互換テーブル（コンパクト・ストレージ）のサポートが廃止されました。アップグレードする前に、DSE 5.x.xの実行中に手順に従って、コンパクト・ストレージを持つすべてのテーブルをCQLテーブル形式に移行してください。
   注: system.*テーブルは移行しないでください。コンパクト・ストレージはDSEによって内部で削除されています。
   DSE Analyticsについては、HiveMetaStoreおよびPortfolioDemoキースペース内のすべてのテーブルからコンパクト・ストレージを削除してください。
   コンパクト・ストレージが削除された後、「コンパクト・ストレージからの移行」で説明されているように、CQL互換テーブル形式への移行をサポートするためのカラムが追加されます。

   重要: コンパクト・ストレージ・テーブルが存在すると、DSE 6.0は起動しません。バージョンが混在しているクラスターでのコンパクト・ストレージ・テーブルの作成はサポートされていません。最新のDSE 5.0.xおよびDSE 5.1.xへのドライバー接続は、"NO_COMPACT"モードで実行され、コンパクト・フラグが既に削除されたかのようにコンパクト・テーブルが見えますが、これは現在のセッションの場合のみです。
2. shuffleパラメーターをプログラムで設定する場合は、conf.set("spark.shuffle.service.port", port)を使用するアプリケーション用コードを変更する必要があります。代わりに、dse spark-submitを使用します。これによって、認証状態に基づいて正しいサービス・ポートが自動的に設定されます。詳細については、「Sparkの構成」を参照してください。
3. DSEFSが有効であれば、CFS hivemetastoreディレクトリーをdseにコピーします。

   DSE_HOME/bin/dse hadoop fs -cp cfs://127.0.0.1/user/spark/warehouse/ dsefs://127.0.0.1/user/spark/warehouse/

   アップグレードの完了後、Spark SQLテーブル（使用している場合）を新しいHiveメタストア形式に移行します。

   dse client-tool spark metastore migrate --from 5.0.0 --to 6.0.0

4. Cassandra File System（CFS）は削除されます。アップグレードの前に、cfsおよびcfs_archiveキースペースを削除します。詳細については、ブログの投稿「From CFS to DSEFS」および「CFSからDSEFSへのデータのコピー」ドキュメントを参照してください。
5. SPARK_LOCAL_DIRSおよびSPARK_EXECUTOR_DIRS環境変数の使用が「環境変数の設定」の説明に従っていることを確認してください。
6. 互換性のあるSpark Jobserver APIをDataStaxリポジトリで使用しているアプリケーションについては、ジョブをSparkHiveJobおよびSparkSqlJobからSparkSessionJobに移行してください。demosディレクトリーのDemoSparkSessionJobの例を参照してください。
   注: Spark Jobserverは、DSEカスタム・バージョン8.0.4.45です。
   demosディレクトリーの場所は、インストールのタイプによって異なります。

   • パッケージ・インストール：/usr/share/dse/demos
   • tarボール・インストール：installation_location/demos

• HTTPの書き込みのすべての使用が、更新および挿入のためのCQLコマンドを使用するように変更されていることを確認します。
• 検索インデックス構成を編集し、必要に応じて以下の変更を行います。検索インデックスのクエリーの動作を変更するための有効なオプションについては、「検索インデックス構成」を参照してください。
  • サポートされていないdataDirオプションを削除します。検索インデックスの場所の設定は、引き続き行うことができます。
  • mergePolicy、maxMergeDocs、およびmergeFactorを削除します。例を次に示します。

    <mergeFactor>25</mergeFactor>
    <maxMergeDocs>...
    <mergePolicy>...

    代わりにmergePolicyFactoryを使用し、さらにmergeSchedulerを追加します。

    <mergeScheduler class="org.apache.lucene.index.ConcurrentMergeScheduler">
        <int name="maxThreadCount">16</int>
        <int name="maxMergeCount">32</int>
    </mergeScheduler>
    ...
    <mergePolicyFactory class="org.apache.solr.index.TieredMergePolicyFactory">
      <int name="maxMergeAtOnce">10</int>
      <int name="segmentsPerTier">10</int>
    </mergePolicyFactory>

  • ExtractingRequestHandlerのインスタンスがある場合は、それを削除します。
  • DSENRTCachingDirectoryFactoryを削除します。次の部分

    <directoryFactory name="DirectoryFactory" class="com.datastax.bdp.search.solr.DSENRTCachingDirectoryFactory"/>

    を以下のように変更します。

    <directoryFactory name="DirectoryFactory" class="solr.StandardDirectoryFactory"/>

• catalina.propertiesおよびcontext.xmlファイルがTomcat confディレクトリーにあることを確認します。これらのファイルが見つからない場合、DSEは起動しません。
  Tomcat confディレクトリーのデフォルトの場所は、インストールのタイプによって異なります。

  • パッケージ・インストール：/etc/dse/tomcat/conf
  • tarボール・インストール：installation_location/resources/tomcat/conf
• 以前のDSEバージョンがSolr UI web.xmlのカスタム構成を使用している場合は、次の部分、

  <filter-class>com.datastax.bdp.search.solr.auth.DseAuthenticationFilter</filter-class>

  を、以下のように変更します。

  <filter-class>com.datastax.bdp.cassandra.auth.http.DseAuthenticationFilter</filter-class>

• StallMetrics MBeanは削除されます。MBeanを使用する演算子を変更します。

• エッジ・ラベル名およびプロパティ・キー名が、サポートされている文字のみを使用していることを確認します。エッジ・ラベル名およびプロパティ・キー名に使用できるのは、[a-zA-Z0-9]、アンダースコア、ハイフン、およびピリオドのみです。以前のバージョンでは、エッジ・ラベル名およびプロパティ・キー名で、使用できるUnicodeに制限はほとんどありません。
  • schema.describe()は、不適切な名前がスキーマに含まれている場合でも、スキーマ全体を表示します。
  • インプレースのアップグレードでは、無効なエッジ・ラベル名およびプロパティ・キー名が含まれている既存のスキーマを許可します。
  • 不適切な名前が含まれるスキーマ要素は、更新または追加ができません。

nodetool -h hostname drain

• サービスとして実行しているDataStax Enterpriseを停止する方法：

  sudo service dse stop

• スタンドアローン・プロセスとして実行しているDataStax Enterpriseを停止する方法：

  bin/dse cassandra-stop

• YUMを使用したパッケージ・インストーラー
• APTを使用したパッケージ・インストーラー
• バイナリーtarボール・インストーラー

1. バックアップ 構成 ファイルを新しい構成ファイルと比較します。
   • 廃止予定、削除済み、または変更済みの設定をcassandra.yaml およびdse.yamlで探します。

     アップグレード後、6.7.0で再起動する前に、廃止予定の設定を削除して、新しい設定を使用します。

     cassandra.yaml の変更点

     memtableの設定

     廃止予定のcassandra.yaml設定

     memtable_heap_space_in_mb memtable_offheap_space_in_mb

     これらは、次の設定に置き換わります。

     memtable_space_in_mb 自動memtableフラッシュのしきい値を設定するために、ヒープおよびオフヒープのスペース割り当てを制御します。計算されたデフォルトは、ヒープ・サイズの1/4です。

     変更された設定

     memtable_allocation_type: offheap_objects データベースがmemtableメモリーの割り当てと管理に使用するデフォルトの方法は、offheap_objectsです。

     ユーザー定義関数（UDF）の設定

     廃止予定のcassandra.yaml設定

     user_defined_function_warn_timeout user_defined_function_fail_timeout

     これらは次の設定に置き換わります。

     user_defined_function_warn_micros: 500 user_defined_function_fail_micros: 10000 user_defined_function_warn_heap_mb: 200 user_defined_function_fail_heap_mb: 500 user_function_timeout_policy: die Java UDFの実行が高速であるため、設定はマイクロ秒単位で行います。新しいタイムアウトは廃止された設定と同等ではありません。

     ノード間の暗号化の設定

     廃止されるcassandra.yamlの設定

     server_encryption_options: store_type：JKS

     これらは次の設定に置き換わります。

     server_encryption_options: keystore_type: JKS truststore_type: JKS 有効なタイプのオプションはJKS、JCEKS、PKCS12、またはPKCS11です。

     クライアントとノード間の暗号化の設定

     廃止されるcassandra.yamlの設定

     client_encryption_options: store_type：JKS

     これらは次の設定に置き換わります。

     client_encryption_options: keystore_type: JKS truststore_type: JKS 有効なタイプのオプションはJKS、JCEKS、PKCS12、またはPKCS11です。

     認証情報キャッシュ

     廃止予定のcassandra.yaml設定

     credentials_validity_in_ms credentials_update_interval_in_ms これらの認証情報キャッシュの設定が存在する場合は、コメント・アウトするか、削除します。キャッシュは、これらの設定がなくても最適化されます。

     dse.yaml の変更点

     Sparkリソースおよび暗号化のオプション

     廃止されるdse.yamlの設定

     spark_ui_options: server_encryption_options: store_type: JKS

     これらは次の設定に置き換わります。

     spark_ui_options: server_encryption_options: keystore_type: JKS truststore_type: JKS 有効なオプションはJKS、JCEKS、PKCS12、またはPKCS11です。

     DSE Searchノード

     廃止予定のdse.yaml設定

     以下のオプションを削除します。 cql_solr_query_executor_threads enable_back_pressure_adaptive_nrt_commit max_solr_concurrency_per_core solr_indexing_error_log_options DSE 6.7は、これらのオプションが存在すると起動しません。

2. 該当する変更を新しいバージョンにマージします。
3. キースペース・レプリケーション係数が環境に適していることを確認してください。
   • analyticsキースペースのキースペース・レプリケーション係数を確認してください。
   • system_authおよびdse_securityキースペースのキースペース・レプリケーション係数を確認してください。

• パッケージ・インストール
• tarボール・インストール

nodetool status

多くの場合、警告、エラー、および例外は、アップグレードしたノードの起動時にログに表示されます。これらのログ・エントリーの一部は、固有のアップグレード関連の手順を実行するときに役立ちます。予想しなかった警告、エラー、または例外が表示された場合は、DataStaxサポートまでお問い合わせください。

各ノードでのアップグレードおよび再起動は、ローリング再起動と呼ばれます。

• DSE 5.0.xの場合は、5.0.15以降にダウングレード
• DSE 5.1.xの場合は、5.1.11以降にダウングレード