작성
·
581
·
수정됨
0
안녕하세요! 선생님 강의 잘 듣고 있습니다.
다름이 아니라
커넥트 내부 토픽이해 - connect0offsets, connect-status, connect-config 강의 실습 중
spool 커넥터를 띄워놓고 spooldir csv 메세지 보내는 과정에서
커넥터가 정상 작동을 안하는 것 같아
이부분을 반복했더니 커넥트 기동중 spool 커넥터에 에러가 잡히는데 혹시 해결방안 여쭤봐도 될까요 ?
커넥트 기동시 뜨는 에러 로그입니다. path annotation 이 비었다고 하는 것같은데 새로 지정을 어디서 해야 할까요?
org.apache.kafka.connect.errors.ConnectException: Failed to start connector: csv_spooldir_source
at org.apache.kafka.connect.runtime.distributed.DistributedHerder.lambda$startConnector$25(DistributedHerder.java:1461)
at org.apache.kafka.connect.runtime.WorkerConnector.doTransitionTo(WorkerConnector.java:334)
at org.apache.kafka.connect.runtime.WorkerConnector.doRun(WorkerConnector.java:140)
at org.apache.kafka.connect.runtime.WorkerConnector.run(WorkerConnector.java:117)
at java.base/java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:515)
at java.base/java.util.concurrent.FutureTask.run(FutureTask.java:264)
at java.base/java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1128)
at java.base/java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:628)
at java.base/java.lang.Thread.run(Thread.java:829)
Caused by: org.apache.kafka.connect.errors.ConnectException: Failed to transition connector csv_spooldir_source to state STARTED
... 8 more
Caused by: java.lang.IllegalStateException: Could not find any input file(s) to infer schema from.
at com.google.common.base.Preconditions.checkState(Preconditions.java:510)
at com.github.jcustenborder.kafka.connect.spooldir.AbstractSpoolDirSourceConnector.start(AbstractSpoolDirSourceConnector.java:63)
at org.apache.kafka.connect.runtime.WorkerConnector.doStart(WorkerConnector.java:184)
at org.apache.kafka.connect.runtime.WorkerConnector.start(WorkerConnector.java:209)
at org.apache.kafka.connect.runtime.WorkerConnector.doTransitionTo(WorkerConnector.java:348)
at org.apache.kafka.connect.runtime.WorkerConnector.doTransitionTo(WorkerConnector.java:331)
... 7 more
3월 08, 2023 1:54:32 오후 org.glassfish.jersey.internal.Errors logErrors
경고: The following warnings have been detected: WARNING: The (sub)resource method listLoggers in org.apache.kafka.connect.runtime.rest.resources.LoggingResource contains empty path annotation.
WARNING: The (sub)resource method createConnector in org.apache.kafka.connect.runtime.rest.resources.ConnectorsResource contains empty path annotation.
WARNING: The (sub)resource method listConnectors in org.apache.kafka.connect.runtime.rest.resources.ConnectorsResource contains empty path annotation.
WARNING: The (sub)resource method listConnectorPlugins in org.apache.kafka.connect.runtime.rest.resources.ConnectorPluginsResource contains empty path annotation.
WARNING: The (sub)resource method serverInfo in org.apache.kafka.connect.runtime.rest.resources.RootResource contains empty path annotation.
[2023-03-08 13:54:32,670] INFO Started o.e.j.s.ServletContextHandler@1e253c9d{/,null,AVAILABLE} (org.eclipse.jetty.server.handler.ContextHandler:915)
[2023-03-08 13:54:32,671] INFO REST resources initialized; server is started and ready to handle requests (org.apache.kafka.connect.runtime.rest.RestServer:303)
[2023-03-08 13:54:32,671] INFO Kafka Connect started (org.apache.kafka.connect.runtime.Connect:57)
min@min-VirtualBox:~$ curl -X GET http://localhost:8083/connectors/csv_spooldir_source/status | jq '.'
% Total % Received % Xferd Average Speed Time Time Time Current
Dload Upload Total Spent Left Speed
100 1375 100 1375 0 0 8647 0 --:--:-- --:--:-- --:--:-- 8647
{
"name": "csv_spooldir_source",
"connector": {
"state": "FAILED",
"worker_id": "127.0.1.1:8083",
"trace": "java.lang.IllegalStateException: Could not find any input file(s) to infer schema from.\n\tat com.google.common.base.Preconditions.checkState(Preconditions.java:510)\n\tat com.github.jcustenborder.kafka.connect.spooldir.AbstractSpoolDirSourceConnector.start(AbstractSpoolDirSourceConnector.java:63)\n\tat org.apache.kafka.connect.runtime.WorkerConnector.doStart(WorkerConnector.java:184)\n\tat org.apache.kafka.connect.runtime.WorkerConnector.start(WorkerConnector.java:209)\n\tat org.apache.kafka.connect.runtime.WorkerConnector.doTransitionTo(WorkerConnector.java:348)\n\tat org.apache.kafka.connect.runtime.WorkerConnector.doTransitionTo(WorkerConnector.java:331)\n\tat org.apache.kafka.connect.runtime.WorkerConnector.doRun(WorkerConnector.java:140)\n\tat org.apache.kafka.connect.runtime.WorkerConnector.run(WorkerConnector.java:117)\n\tat java.base/java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:515)\n\tat java.base/java.util.concurrent.FutureTask.run(FutureTask.java:264)\n\tat java.base/java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1128)\n\tat java.base/java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:628)\n\tat java.base/java.lang.Thread.run(Thread.java:829)\n"
},
"tasks": [],
"type": "source"
}
답변 1
1
안녕하십니까,
음.. 먼저 아래 사항 확인 부탁드립니다.
처음부터 잘 안되는 건가요? 아님. 처음엔 잘 되었는데 다시 해보니 안되는 건가요?
강의 실습 환경대로 Ubuntu vm 기반에서 실습 하시는 건가요?
spooldir_source.json 파일이 강의대로 인지, 아님 별도 변경을 하신 건가요?
spooldir_source.json 설정에 있는 inputlpath, error.path, finished.path 대로 디렉토리가 만들어져 있는지요?
감사합니다.
그러니까, 최초에는 잘 되었는데, 이후에 안되었다는 거죠?
확인해 주신 것을 보니 특별히 이상 사항은 없군요.
일단 connect 와 kafka를 순서대로 재 기동하시고 spool_test_dir을 삭제후에 다시 만들어 주시고 다시 한번 connector를 post로 생성해 주십시요.
만약에 그래도 안되면 섹션 3에 보시면 <중요 - 스킵하지 마세요> Kafka 실습 환경 전체 초기화 하기 영상이 있습니다. 보시고 Kafka 실습 환경을 다시 한번 초기화 하시고 spooldir 커넥터 실습을 처음부터 다시 해보시기 바랍니다.
안되면 다시 글 부탁드립니다.
네. 오류없이 정상 작동 됐었습니다. 이번 강 실습 도중 커넥터가 내려가있으면 다시 올려야 했는데 그 과정에서 delete 후 post 로 모르고 두세번 반복으로 했더니 저런 오류가 생겼습니다
네 모두 다 똑같이 설정후 진행했습니다.
강의대로 진행했습니다. 달라진것은 1번처럼 반복 curl 로 delete post 한 것 입니다.
input.path,error.path, finished.path
감사합니다.