인프런 영문 브랜드 로고
인프런 영문 브랜드 로고

인프런 커뮤니티 질문&답변

김민석님의 프로필 이미지
김민석

작성한 질문수

[2024 개정판] 이것이 진짜 크롤링이다 - 실전편 (인공지능 수익화)

NoSuchElementException 이라고 뜹니다

해결된 질문

작성

·

232

1

안녕하세요 선생님 ~ 질문있습니다.
아래의 코드를 실행하니 NoSuchElementException이라고 뜹니다. 제가 생각하기엔 큰이미지를 다운로드 하는 과정에서 첫번째 사진만 저장되고 그 이후에 저런 메세지가 나옵니다.
CSS 선택자가 잘못된 것 같은데 해결을 못하고 있습니다 ㅠㅠ


from selenium import webdriver
from selenium.webdriver.chrome.service import Service
from selenium.webdriver.chrome.options import Options
from selenium.webdriver.common.by import By
from selenium.webdriver.common.keys import Keys
import time
import os
import urllib.request
import pyautogui
# 크롬 드라이버 자동 업데이트
from webdriver_manager.chrome import ChromeDriverManager

keyword = pyautogui.prompt("검색어를 입력하세요.")

if not os.path.exists(f'CRAWLING심화\ch4.구글이미지크롤링\{keyword}') == True:
    os.mkdir(f'CRAWLING심화\ch4.구글이미지크롤링\{keyword}')

# 브라우저 꺼짐 방지 코드
chrome_options = Options()
chrome_options.add_experimental_option("detach", True)

# 불필요한 에러 메세지 차단
chrome_options.add_experimental_option('excludeSwitches', ["enable-logging"])

# 최신 버전의 ChromeDriver 경로를 자동으로 다운로드하거나 검색
service = Service(executable_path=ChromeDriverManager().install())
driver = webdriver.Chrome(service=service, options=chrome_options)

# url 검색
url = f"https://www.google.com/search?q={keyword}&sca_esv=581612012&tbm=isch&sxsrf=AM9HkKnRu6DCGGz23e29xT4BSB7Hq95zgA:1699754235522&source=lnms&sa=X&ved=2ahUKEwiboaf7rb2CAxWJfd4KHWkWA9MQ_AUoAXoECAQQAw&biw=1552&bih=737&dpr=1.65"

# 웹 페이지가 로딩될때까지 10초 기다림
driver.implicitly_wait(10)

# 화면 최대화
driver.maximize_window()

driver.get(url)

# 스크롤 전 높이
before_h = driver.execute_script("return window.scrollY")

# 무한 스크롤
while True:

    # 맨 아래로 스크롤 내린다.
    driver.find_element(By.CSS_SELECTOR, "body").send_keys(Keys.END)

    # 스크롤 사이 페이지 로딩 시간
    time.sleep(1)

    # 스크롤 후 높이
    after_h = driver.execute_script("return window.scrollY")
    if after_h == before_h:
        break
    before_h = after_h

# 썸네일 이미지 태크 추출
imgs = driver.find_elements(By.CSS_SELECTOR, ".rg_i.Q4LuWd")


for i, img in enumerate (imgs, 1):
    # 이미지를 클릭해서 큰 사이즈 찾기
    # 클릭하다보면 element click intercepted 에러가 등장
    # javascript로 클릭을 직접 하도록 만들어주면 된다
    driver.execute_script("arguments[0].click();", img)
    img.click()
    time.sleep(1)

    # 큰 이미지 주소 추출
    target = driver.find_element(By.CSS_SELECTOR, 'img.sFlh5c.pT0Scc.iPVvYb')
    img_src = target.get_attribute('src')

    opener = urllib.request.build_opener()
    opener.addheaders = [('User-Agent', 'Mozila/5.0')]
    urllib.request.install_opener(opener)

    # 이미지 다운로드

    urllib.request.urlretrieve(img_src, f'CRAWLING심화\ch4.구글이미지크롤링\{keyword}\{keyword}{i}.jpg')

    print(f'img {i}개 : {target}')

답변 1

1

스타트코딩님의 프로필 이미지
스타트코딩
지식공유자

클릭을 했는데 또 클릭을 해서 창이 사라 졌네요~

img.click() 을 주석처리 해보세요 ㅎㅎ

김민석님의 프로필 이미지
김민석

작성한 질문수

질문하기