kubernetes - Cassandra クラスターの接続が 2 回目ごとに NoHostAvailable で失敗する
def get_session(
keyspace: str = None,
consistency_level=settings.CASSANDRA_CONSISTENCY_LEVEL,
request_timeout=settings.CASSANDRA_REQUEST_TIMEOUT,
) -> Session:
"""Initiate connection with apache cassandra cluster.
Arguments:
:param str keyspace: default keyspace to connect to
:param int consistency_level: desired consistency level of the connection
:param int request_timeout: cassandra request timeout. If wait time exceeds
this number, then cassandra will send 1300 error code with 0 nodes
replied statement in the response.
"""
dbconf = settings.CASSANDRA
auth_provider = PlainTextAuthProvider(
username=dbconf['USER'],
password=dbconf['PASSWORD'],
)
host = dbconf['HOST']
# the host should be always LIST passed in the connection setup
if isinstance(host, str):
host = [host]
# define execution profile for the cluster
profile = ExecutionProfile(
consistency_level=consistency_level,
request_timeout=request_timeout,
row_factory=dict_factory,
)
cluster = Cluster(
contact_points=host,
auth_provider=auth_provider,
protocol_version=4,
reconnection_policy=ConstantReconnectionPolicy(delay=30),
execution_profiles={EXEC_PROFILE_DEFAULT: profile},
)
logger.info('Connecting to Cassandra...')
session = cluster.connect(keyspace=keyspace)
return session
インフラストラクチャ:
Cassandra は、Kubernetes クラスターの外側の EC2 上で実行される単一ノードクラスター (開発環境) です。 Python アプリは Kubernetes クラスター内で実行されています CoreDNS は名前解決でエラーを示さない 問題In [71]: cluster = Cluster(
...: contact_points=host,
...: auth_provider=auth_provider,
...: protocol_version=4,
...: reconnection_policy=ConstantReconnectionPolicy(delay=30),
...: execution_profiles={EXEC_PROFILE_DEFAULT: profile},
...: )
In [72]: session = cluster.connect(keyspace=keyspace)
In [73]: >> we got no errors here <<
In [73]: cluster = Cluster(
...: contact_points=host,
...: auth_provider=auth_provider,
...: protocol_version=4,
...: reconnection_policy=ConstantReconnectionPolicy(delay=30),
...: execution_profiles={EXEC_PROFILE_DEFAULT: profile},
...: )
In [74]: session = cluster.connect(keyspace=keyspace)
------------------------
------------------------
---
NoHostAvailable Traceback (most recent call last)
<ipython-input-74-1a72338f4a42> in <module>
----> 1 session = cluster.connect(keyspace=keyspace)
/usr/local/lib/python3.7/site-packages/cassandra/cluster.cpython-37m-x86_64-linux-gnu.so in cassandra.cluster.Cluster.connect()
/usr/local/lib/python3.7/site-packages/cassandra/cluster.cpython-37m-x86_64-linux-gnu.so in cassandra.cluster.Cluster.connect()
/usr/local/lib/python3.7/site-packages/cassandra/cluster.cpython-37m-x86_64-linux-gnu.so in cassandra.cluster.Cluster.connect()
/usr/local/lib/python3.7/site-packages/cassandra/cluster.cpython-37m-x86_64-linux-gnu.so in cassandra.cluster.ControlConnection.connect()
/usr/local/lib/python3.7/site-packages/cassandra/cluster.cpython-37m-x86_64-linux-gnu.so in cassandra.cluster.ControlConnection._reconnect_internal()
NoHostAvailable: ('Unable to connect to any servers', {'10.0.1.135:9042': OperationTimedOut('errors=None, last_host=None')})
そして、コードを再度実行しても、エラーは発生しません。そのため、2 回目にクラスタ接続を確立するたびに、どのサーバーにも接続できなくなります。
私の何が間違っているのでしょうか?
kubernetes 内の DNS ログにエラーは表示されない
➜ k logs -n kube-system coredns-bd44f767b-hmjkm --follow G cassandra
[INFO] 10.0.102.14:57290 - 43742 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 163 0.001382616s
[INFO] 10.0.102.14:57290 - 30824 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 108 0.00208348s
[INFO] 10.0.102.149:41380 - 369 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 108 0.000254395s
[INFO] 10.0.102.14:40232 - 50016 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 108 0.001908237s
[INFO] 10.0.102.14:40232 - 60690 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 163 0.002687332s
[INFO] 10.0.102.14:41684 - 61160 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 108 0.001691572s
[INFO] 10.0.102.14:41684 - 37445 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 163 0.001798905s
[INFO] 10.0.102.14:44932 - 37379 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 108 0.000307496s
[INFO] 10.0.102.14:44932 - 5473 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 55 0.000384108s
[INFO] 10.0.102.14:40852 - 46083 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 163 0.001399928s
[INFO] 10.0.102.14:40852 - 16899 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 108 0.00260366s
[INFO] 10.0.102.14:41726 - 10266 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,aa,rd,ra 163 0.000024531s
[INFO] 10.0.102.14:41726 - 5499 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,aa,rd,ra 108 0.0000154s
[INFO] 10.0.102.14:46022 - 44862 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 55 0.000341037s
[INFO] 10.0.102.14:46022 - 38156 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 108 0.000381968s
[INFO] 10.0.102.14:48295 - 53839 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,aa,rd,ra 108 0.000032341s
[INFO] 10.0.102.14:48295 - 45751 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 55 0.00046966s
[INFO] 10.0.102.14:59979 - 4978 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 108 0.000335407s
[INFO] 10.0.102.14:59979 - 4077 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 55 0.000399258s
[INFO] 10.0.102.14:39588 - 16074 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 108 0.001527879s
[INFO] 10.0.102.14:39588 - 31496 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,rd,ra 163 0.001666961s
[INFO] 10.0.102.14:50258 - 52626 "AAAA IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,aa,rd,ra 163 0.00002472s
[INFO] 10.0.102.14:50258 - 46504 "A IN cassandra-node0.dev.project.host. udp 55 false 512" NOERROR qr,aa,rd,ra 108 0.00002376s
接続または最初の C を再利用しようとしていませんか?新しい接続を確立する前に、接続を閉じるかタイムアウトする必要がありますか?
– リコ2020 年 9 月 3 日 22:59
------------------------
解決策
次の引数を Cluster() に追加するだけです。
control_connection_timeout=30,
connect_timeout=30,
例:
import time
import logging
from django.conf import settings
from cassandra.auth import PlainTextAuthProvider
from cassandra.cluster import (
EXEC_PROFILE_DEFAULT,
Cluster,
ExecutionProfile,
Session,
)
from cassandra.policies import (
ConstantReconnectionPolicy,
RetryPolicy,
WriteType,
)
from cassandra.query import dict_factory
def get_session(
keyspace: str = None,
consistency_level=settings.CASSANDRA_CONSISTENCY_LEVEL,
request_timeout=settings.CASSANDRA_REQUEST_TIMEOUT,
) -> Session:
"""Initiate connection with apache cassandra cluster.
Arguments:
:param str keyspace: default keyspace to connect to
:param int consistency_level: desired consistency level of the connection
:param int request_timeout: cassandra request timeout in seconds. If wait time
exceeds this number, then cassandra will send 1300 error code with 0 nodes
replied statement in the response.
"""
dbconf = settings.CASSANDRA
auth_provider = PlainTextAuthProvider(
username=dbconf['USER'],
password=dbconf['PASSWORD'],
)
host = dbconf['HOST']
# the host should be always LIST passed in the connection setup
if isinstance(host, str):
host = [host]
# define execution profile for the cluster
profile = ExecutionProfile(
consistency_level=consistency_level,
request_timeout=request_timeout,
row_factory=dict_factory,
)
cluster = Cluster(
contact_points=host,
auth_provider=auth_provider,
protocol_version=4,
reconnection_policy=ConstantReconnectionPolicy(delay=30),
execution_profiles={EXEC_PROFILE_DEFAULT: profile},
control_connection_timeout=30,
connect_timeout=30,
)
session = cluster.connect(keyspace=keyspace)
return session
1
その他の接続オプションを参照: クラスター、ソース コード
– ドミトリー・セミノフ2020 年 9 月 3 日午後 10 時 49 分
新着記事:
配列 - 整数ポインター p を宣言し、それを関数の戻り値に代入すると、セグメンテーション違反が発生するのはなぜですか?powerbi - Power BI のドリルダウンと合計Hacker Rank SQL の問題 | count() と MINUS の使用に関する問題 |第4気象観測所java - マルチモジュール Maven および Spring Boot プロジェクトが、セカンダリ モジュールのファット実行可能 jar を生成しないangular - cdkFocusInitial 属性が DOM 要素にフォーカスを当てていないjavascript - module.exports から必要なものを取得できませんSQL - POSTGRES - ON CONFLICT DO NOTHING によるシリアルインクリメントの防止discord.pyを使用して既存のjsonファイルを埋め込みとして送信しますReactjs - 反応ルーター - 文字列形式でのリンクは機能しますが、オブジェクト形式では機能しませんエンティティ フレームワーク - LINQ OrderBy が順序付けられません .. 何も変更されません .. なぜですか?JavaScript - onclick 関数は IE では動作しませんが、他のブラウザでは正常に動作しますjava - 複数のユーザーのために Jetty HttpClient を分離するにはどうすればよいですか?