인프런 커뮤니티 질문&답변

정명준님의 프로필 이미지
정명준

작성한 질문수

[2024 개정판] 이것이 진짜 크롤링이다 - 실전편 (인공지능 수익화)

셀레니움 환경설정

selenium을 활용한 크롤링 질문

해결된 질문

작성

·

469

1

안녕하세요 강사님 selenium은 동적 크롤링을 할때 사용한다고 알고있습니다. 간혹 로그인을 해야만 정보를 열람할 수 있는 사이트가 있는데 이런 경우에는 어떤식으로 접근을 할 수 있을지 알고싶습니다!

답변 2

2

지나가다 답변 남겨봅니다^^

대부분의 경우, 로그인도 셀레늄으로 처리하시면 됩니다.

예를 들면,

아이디와 패스워드를 입력하는 input 태그를 driver.find_element로 찾고

element.send_keys로 입력한 후, button.submit 명령어로 로그인을 하실 수 있을 것입니다.

대상 사이트를 알려주시면

보다 구체적인 예제코드를 적어드릴 수 있을 것 같습니다^^

스타트코딩님의 프로필 이미지
스타트코딩
지식공유자

답변 감사합니다. 일코님!

 

추가적으로 셀레니움 사용해서 로그인 자동화 진행 시

봇으로 판단하고 접근을 막는 경우가 있는데

다음과 같은 방식으로 해결할 수도 있습니다.

 

  1. 주피터 노트북으로 웹 브라우저를 띄운다.

  2. 로그인을 수동으로 진행한다.

  3. 로그인이 필요한 페이지를 크롤링한다.

 

해당 내용은

https://youtu.be/1tKPqQmXM98

에서 확인할 수 있습니다.

1

정명준님의 프로필 이미지
정명준
질문자

두분의 답변 감사합니다 !

정명준님의 프로필 이미지
정명준

작성한 질문수

질문하기