Monday, November 27, 2023

Kafka Connect SourceConnector Sınıfı

Giriş
Şu satırı dahil ederiz. Soyut bir sınıftır
import org.apache.kafka.connect.source.SourceConnector;
config metodu
Medotun için şuna benzer
@Override
public ConfigDef config() {
    return CONFIG_DEF;
}
Açıklaması şöyle
create fewer tasks if it cannot achieve this level of parallelism.aaThe ConfigDef exposes what configuration you require for your connector and hopefully how it manipulates your connector.

context metodu
Metodu şöyle
@Override
protected SourceConnectorContext context() {
  return (SourceConnectorContext) context;
}
taskConfigs metodu
İmzası şöyle
public abstract List<Map<String, String>> taskConfigs(int maxTasks);
Açıklaması şöyle
The maximum number of tasks that should be created for this connector. The connector may create fewer tasks if it cannot achieve this level of parallelism.
maxTasks alanı kullanılan connector tipine göre bazen dikkate alınıyor bazen alınmıyor. 
Örneğin io.debezium.connector.mysql.MySqlConnectorio.debezium.connector.postgresql.PostgresConnector bu değeri dikkate almıyor. Açıklaması şöyle
Q : How can I increase the tasks.max for debezium sql connnector?
A : It's not possible.

The database bin log must be read sequentially by only one task.

Run multiple connectors for different tables if you want to distribute workload
Ama mesela io.confluent.connect.jdbc.JdbcSourceConnector dikkate alıyor. O yüzden dokümantasyona bakmak lazım

No comments:

Post a Comment

kafka-consumer-groups.sh komutu

Giriş Bir topic'i dinleyen consumer'ları gösterir. Aynı topic'i dinleyen consumer group'ları olabilir. Her topic farklı part...