Skip to content

0xNacho/kafka-connect-poc

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

17 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Kafka Connect - POC CV-BD

Test CV - BD

Entorno dockerizado heredado de Proteus para una prueba de concepto entre líneas de Computer Vision y Big Data.

Elementos clave dentro del directorio kafka

/connect-config/

Directorio con los ficheros de configuración que dentro del contenedor se mapena en el directorio /opt/kafka/connector-config/

/connect-project/

Código del proyecto del conector que dentro del contenedor se mapea en el directorio /opt/kafka/connectors-projects. Una vez se cree el fichero .jar este se mueve automáticamente a la carepta /opt/kafka/connectors/

/Dockerfile

Fichero de configuración del contenedor de Kafka

Funcionamiento

Requisito: Definición correcta de la variable de entorno CLASSPATH

Standalone Mode

TestConnector

Necesita un fichero file.txt en la carpeta dataset

sudo docker exec -it kafka bash

./bin/connect-standalone.sh ./connect-config/test-connector.properties ./connect-config/test-connector-source.properties

./kafka/bin/connect-standalone.sh ./kafka/connect-config/worker.properties ./kafka/connect-config/connect-console-source.properties

Distributed Mode

Si el conector se crea correctamente se puede ver en el servidor

http://172.25.0.3:8083/connectors

Resumen de Versiones

JAVA_VERSION=1.8

KAFKA_VERSION=0.10.0.0

SCALA_VERSION=2.11

MAVEN_VERSION=3.3.9

About

Test Kafka Connect

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published