인프런 커뮤니티 질문&답변

안녕하세요 선생님

만들어주신 크롤링 강의 신청해서 잘 수강하고 있는 한 학생입니다

다름이 아니라, 업무에서 '생생정보통 맛집'에 대한 네이버지도 크롤링이 필요하여

셀레니움으로 메뉴까지 크롤링하는 방법에 도전하던 중

커뮤니티에 json으로 크롤링하는 방법을 올려주신 분이 있어서 활용해보았습니다

다만, json의 경우 '생생정보통맛집 서울'이라는 쿼리로는 제대로 값이 생성이 안되더라구요

아무래도 이게 키워드라기보단 필터라서 그런 것 같긴한데 api 주소로 요청해서 받아오는데 필터를 아무리 검색해도

찾아볼 수가 없더라구요.. 유튜브때처럼 api에 해당하는 필터 값을 알려주는 사이트가 있으면 좋으련만...

고민해봤는데, 위도경도가 현재 컴퓨터 위치를 자동으로 보내서 탐색하기 때문이라고 생각합니다

이런건 혹시 어떤 값으로 바꿔줄 수 있을지.. 아니면 제대로 크롤링 될 수 있도록 해보고싶은데

힌트나.. 방법을 얻을 수 있을까요? 감사합니다

import requests

import urllib, openpyxl, time

wb = openpyxl.Workbook()

ws = wb.active

ws.append(['상호명', '주소', '연락처', '메뉴'])



with open('C:/program_list.txt', 'r', encoding='utf-8') as tf:

    keywords = tf.readlines()

    for keyword in keywords:

        keyword = keyword.strip().replace('\t', '')

        print(keyword, '에 나온 맛집입니다.\n\n')

        url_keyword = urllib.parse.quote(keyword)

        try:

            for i in range(1, 20):

                print('\n', i,'페이지입니다.\n')

                response = requests.get(f'https://map.naver.com/v5/api/search?caller=pcweb&query={url_keyword}&type=all&page={i}&displayCount=40&lang=ko', headers={'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.110 Safari/537.36'}).json()

                numbers = response['result']['place']['list']

                for i in range(0,len(numbers)):

                    name = response['result']['place']['list'][i]['name']

                    address = response['result']['place']['list'][i]['roadAddress']

                    tel = response['result']['place']['list'][i]['telDisplay']
                    
                    menuinfo = response['result']['place']['list'][i]['menuInfo']

                    print(name, address, tel, menuinfo)

                    ws.append([name, address, tel, menuinfo])

                time.sleep(1)

        except:

            print('끝났습니다.')

wb.save(f'{target_word}결과.xlsx')

tf.close()