인프런 커뮤니티 질문&답변

그레이스bb님의 프로필 이미지
그레이스bb

작성한 질문수

PM을 위한 데이터 리터러시(프로덕트 데이터 분석)

4-8. 지표 정의하기 연습문제 1~4번

해결된 질문

작성

·

249

·

수정됨

0

먼저 연습문제 1,2,3번은 모두 비슷한 관점으로 배달 서비스의 특정 기능에 대한 사용성, 활성화 정도에 대한 지표라고 말씀해주신 것을 참고해서 3가지 문제는 모두 비슷한 관점으로 지표를 정의해봤습니다!

제가 생각한 세 문제의 공통점은

  1. 해당 기능에 대한 사용성 또는 '활성화'에 대한 정의가 필요하다.

  2. 배달 앱의 퍼널 관점에서 보면, 3가지 문제에 나오는 기능들은 모두 기능 사용의 결과로 음식점 결과 리스트를 보여준다. (단, 배너 영역 기능과 동네 맛집 기능은 음식점 리스트가 아닌, 이벤트 페이지 또는 음식점 상세페이지를 보여줄 수 있음.)

 

저는 두 가지 공통점을 고려해서 기능의 활성화 지표에 대한 후보로 3가지 지표를 생각해봤습니다.

  1. 클릭률 = 해당 기능 (또는 영역) 을 클릭한 횟수 / 해당 기능에 노출된 횟수

  2. 페이지 전환율 = 해당 기능 클릭 후 결과로 나오는 음식점 리스트 중에 하나 이상을 클릭하여 음식점 상세 페이지로 이동한 횟수 / 해당 기능을 클릭한 횟수

  3. 구매 전환율 = 해당 기능을 통해 주문 완료까지 진행한 횟수 / 해당 기능을 클릭한 횟수

     

셋 중에 어떤 지표를 선택할지는 활성화 지표를 보는 목적과 문제 정의에 따라 달라질 수 있습니다.

활성화 지표를 기능에 대한 만족도에 관계없이 '단순히 해당 기능의 반응성'으로 정의한다면 클릭률만으로 충분하겠지만,

활성화 지표를 '해당 기능을 통해서 나온 결과에 만족하여 관심이 가는 음식점이 하나라도 존재하는 것'으로 정의한다면, 2번의 페이지 전환율을 함께 활용하는 게 적절하다고 생각했습니다.

3번의 구매 전환율의 경우에는 활성화 지표를 '해당 기능이 이후 구매 전환에 기여하는 정도'로 정의한다면 유의미한 지표가 되겠으나, 해당 기능으로 나온 결과에는 만족했더라도 음식점 상세페이지부터 주문 완료까지 이어지는 이후 퍼널에서 불만족하는 부분이 발생하여 주문 전환이 이루어지지 않는 케이스가 존재할 수 있다는 점을 고려해서 저는 기능의 활성화 지표로는 2번 페이지 전환율이 가장 적절하다고 판단했습니다.

 

위의 결론을 바탕으로 각 문제의 지표를 정리해보면,

연습문제 1.

메뉴 카테고리와 이런 음식 어때요 기능의 경우에는 활성화 지표를 페이지 전환율 = (메인화면에서 각 영역을 클릭한 후 나오는 음식점 리스트 중에 하나 이상을 클릭한 횟수) / (해당 영역을 클릭한 횟수)로 정의하고, 클릭률 = (해당 영역을 클릭한 횟수) / (메인 화면을 본 횟수)를 보조 지표로 정의했습니다.

배너 영역과 동네 맛집 기능의 경우에는 음식점 리스트를 보여주지 않고 바로 음식점 또는 이벤트 상세페이지로 이동하는 경우로 가정했을 때, 활성화 지표를 클릭률 = (해당 영역을 클릭한 횟수) / (메인 화면을 본 횟수)로 정의했습니다. 단, 배너 영역의 경우에는 클릭하고 나서 이벤트 쿠폰 목록을 보여주는 상세 페이지로 이동하는 경우를 예시로 들었을 때, (클릭의 결과로 나오는 쿠폰 중에 하나 이상을 다운로드한 횟수) / (해당 배너를 클릭한 횟수)로 활성화 지표를 정의할 수도 있을 것 같습니다.

 

연습문제 2.

검색 기능의 만족도(=활성화) 지표페이지 전환율 = (검색의 결과로 나오는 음식점 리스트 중에 하나 이상을 클릭한 횟수) / (검색 기능을 사용한 횟수) 로 정의했습니다. 유저가 검색 결과에 만족한다면, 검색 결과로 나온 음식점 중에 하나라도 클릭하여 해당 지표가 높아질 것이고, 그렇지 않다면 검색 결과 중에 하나도 누르지 않고 이탈하여 해당 지표에 낮아질 것이기 때문입니다.

 

연습문제 3.

검색 필터 기능의 활성화 지표는 크게 두 가지 차원에서 정의해봤습니다.

  1. 필터의 종류에 관계없이 검색 필터 기능 자체의 활성화 지표

  2. 검색 필터의 세부 종류(ex. 배달 빠른 순, 배달팁 낮은 순, 주문 많은 순, 별점 높은 순)에 대한 활성화 지표

두 가지 경우 모두 활성화 지표는 페이지 전환율 = (검색 필터 사용의 결과로 나오는 음식점 리스트 중에 하나 이상을 클릭한 횟수) / (검색 필터 기능을 사용한 횟수)로 정의했으며, 여기서 '검색 필터를 사용했다'라는 것은 디폴트 값인 '기본순'이 아닌 다른 필터를 선택하고 적용한 경우를 의미합니다.

두 가지 차원으로 지표를 보는 이유는, 1번 지표의 경우는 검색 필터 자체의 활성화 정도를 보는 것이 목적이라면, 2번 지표의 경우에는 각 검색 필터의 세부 종류에 따라서 활성화 지표의 정도를 비교하여, 상대적으로 활성화 정도가 높은/낮은 필터를 확인하고 그에 맞는 실험을 시도하는 것이 목적입니다.

예를 들어서, '활성화 지표(2번 지표)가 높은 필터의 순서대로 위에서부터 내림차순 정렬해서 보여주었을 때 검색 필터 전체의 활성화 지표(1번 지표)가 높아질 것이다.' 라는 가설을 세우고, A/B 테스트 등을 통해 검증한 결과를 토대로 검색 필터의 기능을 최적화할 수 있을 것으로 기대했습니다.

 


 

문제를 풀면서 질문이 하나 생겼는데, 만약 기능의 활성화 지표를 '해당 기능이 이후 구매 전환에 기여하는 정도'로 정의한다면, 밑의 두 가지 지표 중에 어떤 것이 더 적합한 것인지 궁금합니다!

  1. 구매 전환율(CVR) = 해당 기능을 통해 주문 완료까지 진행한 횟수 / 해당 기능을 클릭한 횟수

  2. 해당 기능을 통해서 주문 완료한 횟수 / 전체 주문 완료 횟수

     

일반적으로는 1번을 쓸 것 같은데 2번도 쓸 수 있는 유의미한 지표가 될지 궁금합니다!

 


연습문제 4. 배달 서비스에서 가장 중요한 지표

결론부터 말씀드리면, 저는 가장 중요한 지표로 월 단위의 주문 완료 횟수를 선택했습니다.

 

그 선택의 과정을 로직트리로 그려봤는데요, 먼저 배달 서비스의 순이익을 늘리는 중요한 지표를 보겠다는 데서 출발하여 크게 매출을 늘리거나, 비용을 줄이는 파트로 나누었습니다.

비용 감소의 측면에서는 라이더에게 지급하는 배달료나 운영비 등은 적정선 이하로 줄이기 어려운 비용이라고 생각해서 중요 지표 후보에서 탈락시켰습니다.

매출 파트는 배민 서비스를 기준으로 전반적인 수익 구조에 대해서 찾아본 후에 작성했는데,

배달 서비스의 주요 매출원은 크게 음식 배달로 발생하는 수수료와 광고 수수료로 나누었고,

광고 수수료는 주문이 발생할 때마다 금액의 일부를 수수료로 얻는 '오픈리스트 광고'와 점주들이 지역별로 깃발을 꽂아서 광고를 노출시키는 대신에 고정 광고비를 내는 '울트콜 광고'와 그 외 광고로 나누었습니다.

여기서 배달 중개 수수료와 오픈 리스트 광고는 '배달 주문을 통해서 얻는 매출'로 묶고,

배달 주문을 통해서 얻는 매출은 주문 완료 횟수주문 한 건당 평균 주문 금액에 비례한다고 정의하여,

두 가지 지표를 가장 중요한 지표의 후보로 선정했습니다.

 

두 지표 모두 중요하다고 생각하지만, 주문 완료 횟수가 더 중요하다고 생각한 이유는 평균 주문 금액이 아무리 많아도 주문 완료 횟수 자체가 적으면 매출에 의미있는 기여를 하지 못한다고 생각했기 때문입니다. 그에 반해 평균 주문 금액의 경우에는 일단 주문을 완료하면, 업체별로 지정한 최소 주문 금액만큼의 하한선은 보장되기 때문에 주문 완료 횟수가 더 유의미한 지표라고 판단했습니다. (하지만 이 부분은 실제 데이터를 보면서 판단하는 게 정확하다고 생각합니다.)

 

'주문 완료 횟수' 지표에 대한 시간축과 차원에 대해서도 고민해봤는데,

시간축의 경우에는 배달앱은 SNS처럼 하루에 수시로 접속하거나 주문하는 서비스는 아니며, 하루에 평균 1-2번 정도 주문하는 것이 일반적이라고 생각해서(이 부분도 데이터를 봐야 함), 일 단위로 주문 완료 횟수를 파악하는 것은 의미가 없다고 생각했습니다. 그래서 시간축을 좀더 넓게 잡아서 월 단위의 주문 완료 횟수를 중요 지표로 선택했습니다. 실제 배달 서비스의 VIP 등급도 월 단위의 주문 횟수를 기준으로 한다는 점에서도 유의미한 지표로 판단했습니다.

 

'월 단위 주문 완료 횟수'를 늘리기 위한 방법은 퍼널의 관점에서 맨 끝 단계(결제 단계)부터 개선하는 것이 효과적이라고 생각했습니다. 결제 퍼널 개선을 위해서는 음식을 장바구니에 담았으나, 결제 페이지에서 이탈하는 고객과 이탈하지 않고 주문을 완료하는 고객을 분류하고 두 집단의 고객 행동 간에 어떤 차이가 있는지 데이터를 통해 파악하는 것이 필요합니다. 예를 들어서, 데이터 분석의 결과로 결제 수단을 선택하는 과정에서 이탈률이 가장 높다는 것을 발견했다면, 이탈의 원인에 대한 가설로 '원하는 결제 수단이 없거나 카드 등록 과정이 복잡하다.'를 세우고, 그에 맞는 액션 플랜(간편 결제 도입, 카드 등록 과정의 단순화 등)을 도출한 후, 실험을 통해서 결제 수단의 단순화가 이탈률 감소 -> 월단위 주문 완료 횟수의 증가로 이어지는지 확인해야 합니다.

 


 

쓰다 보니까 너무 장황하게 썼나 싶긴 하네요..😂

글이 길어져서 일단 4번까지만 올리고 나머지는 다음 글로 올리겠습니다!

문제 풀면서 느낀 점은 도메인이나 비즈니스 모델, 수익 구조에 대한 이해가 아직 부족해서 공부가 필요한 것 같네요ㅜㅜ 제가 많이 쓰는 서비스인데도 이 기업이 어떻게 돈을 버는지, 광고 수수료 구조는 어떻게 되는지, 어떤 수익원이 가장 많은 퍼센트를 차지하는지? 등등 모르는 것이나 봐도 헷갈리는 게 많네요..ㅋㅋ 그래서 연습문제 4번이랑 6번을 풀면서 자료조사를 가장 많이 하게 된 것 같아요ㅎㅎ

카일 님이 기술 블로그에 쓰신 https://zzsza.github.io/diary/2020/08/02/how-to-study-business/

이 글도 읽어봤는데 비즈니스에 대한 이해가 정말 필요한 걸 느끼게 된 것 같아요. 혹시 도메인 관련 공부 방법으로 더 추천해주실 만한 것이 있으면 알려주실 수 있을까요..?

 

 

 

 

 

 

 

 

 

답변 1

1

카일스쿨님의 프로필 이미지
카일스쿨
지식공유자

그레이스bb님 문제를 고민하시면서 잘 푸셨네요!

작성하신 내용에서 피드백을 드리면

  • 클릭률(CTR)

  • 페이지 전환율(CVR)

  • 구매 전환율(CVR)

  • 이렇게 표시를 같이 해주시면 더 좋습니다. CTR, CVR이란 단어를 인지하고 있는 사람들이 꽤 있을거라서 이렇게 구분되는 단어를 쓰곤 합니다

  • 클릭률과 페이지 전환율은 이름을 더 명시적으로 적어주시면 좋습니다. 범용적으로 사용되면 헷갈릴 요소가 많거든요.

    • 메인 화면 카테고리 클릭률(CTR)

    • 홈 to 상세 페이지 전환율(CTR)

    • 이렇게 정의할 것 같네요.

  • 정의해주신 페이지 전환율은 클릭 전환율이라고 말해야 더 정확할 것 같아요. 페이지 전환율은 보통 페이지에 접근한 유저 중 전환을 얼마나 했는가를 구할 때 사용되는 이름이에요.

  • 핵심 정리 : 이름을 더 구체적으로 작성하는 습관을 가지면 좋습니다.

 

 

연습문제 1.

잘 정의해주셨고, 지표가 어떤식으로 움직이면 잘 동작한다고 볼 수 있을까요?도 같이 생각해보셔요
배너 영역의 경우 배너의 타입이 존재할 수 있는데, 타입 별로 클릭률을 볼 수 있을거에요.

 

연습문제 2.

검색 기능 만족도 지표는 말씀하신 것처럼 정의할 수 있습니다. 다만 페이지 전환율이 아닌 클릭 전환율로 하면 더 좋을 것 같아요.

추가적으로 이 문제는 강의 외에 있는 부분을 찾아보길 바라는 마음에 출제한 문제에요. 검색 기능이라고 했을 때, 해당 지표를 볼 수 있지만 그럼 검색이 10개 나올 때 모든 것을 합쳐서 해야할지, 1개만 해야할지 고민이 될거에요. 이 때 검색 지표를 검색해서 어떤 것을 활용할 수 있는지 보시고 결정해도 좋을거에요. 아래 링크를 참고해보셔요

https://medium.com/musinsa-tech/map-416b5f143943

 

 

연습문제 3.

말씀해주신 것처럼 2가지 모두 고민해보는 것이 필요합니다. AB Test 등으로 최적화할 수 있을거에요

 

 

번외 질문으로 두 지표를 말씀해주셨는데, 후자인 "해당 기능을 통해서 주문 완료한 횟수 / 전체 주문 완료 횟수"의 지표는 전체 주문 완료 횟수가 크게 변하면 우리가 만든 기능의 성과를 적게 평가할 수 있습니다. 예를 들어 주문 완료 횟수가 외부적 요소로 늘어날 수 있겠지요(블랙프라이데이라서 주문 수가 많거나, 월드컵 경기로 인해 치킨 주문량 증가 등) 이런 경우라면 1, 2번 모두 파악하면서 전체 주문 건수는 평상시보다 얼마 늘었났고, 그에 대비해 구매 전환율은 유지했다 또는 떨어졌다 등으로 판단하곤 합니다

2번의 경우는 "특정 기능" 하나에 초점을 맞추기 보단 전체적인 거시적 관점이라 저는 이 연습 문제에선 덜 사용할 것 같네요(목적에 따라 사용할 수는 있겠지만요)

 

연습 문제 4.

이 문제를 메트릭 하이라키 파트를 보시고 다시 수정해봐도 좋을 것 같네요. 메트릭 하이라키는 최종 지표에서 역순으로 내려가는 개념인데, 월 단위 주문 완료 횟수를 수식으로 만들 수 있을거에요. 배달 중개 수수료와 주문 완료 횟수와 어떤 관계가 있는지도 봐야겠지요. 이 부분은 추가 학습을 하면 또 다른 관점을 확장해보시면 그레이스bb님의 관점을 더 넓혀줄거라 생각합니다. 잘 생각하셨어요.

다만 여기서 피드백 드리고 싶은 부분은 "월 단위의 주문 완료 횟수"인데, 월 단위로 설정할 경우 1년에 12번밖에 나오지 않습니다. 이런 경우라면 빠른 의사결정이 어려워집니다. VIP 등급을 주는 것은 관리의 편의성 관점에서 월로 했을거라 생각하고(하루 단위로 멤버십 업그레이드보단 월로 결정) 주문 완료 횟수를 본다고 하면 주차별로 보는 것이 Business Intelligence 관점에서 가장 기본입니다. 하루 단위의 지표도 보고, 주 단위의 지표도 볼 것 같네요. 이런 지표를 보는 이유가 지표가 갑자기 변하면 어떤 Action을 할 것인가? 관점이기 때문에 월 단위로 보면 의사 결정이 느려질거에요. Rolling으로 지표를 보는 방법도 있지만, 저는 이동 평균 같은 지표로 볼 때 사람들이 이해하기 어려워하는 모습을 봤고, 아웃라이어가 생길 때 느리게 퍼지기에 덜 선호하곤 합니다. 그래서 일자별로 보고 그걸 주차별로 보곤 합니다. 이게 합쳐지면 월 단위 주문이 되겠지요.

 

비즈니스의 이해

  • 비즈니스의 이해는 제 블로그에 나오는 방법을 제일 추천하고 있어요. 문제 정의와 비슷한 관점이에요. 제 글에 나오는 도식 그리기부터 시작하시면 될 것 같고, 비즈니스를 공부하는 것보다 실제로 참여자가 되는 것이 제일 효과가 좋았어요(=실제로 배민 라이더가 된다거나 점주가 된다거나 등) 수익 구조에 대한 이해는 취준생이 가지고 있는 것이 어렵다고 생각되어요(가족 사업을 도와본 적이 있는 것이 아닌 이상) 물론 이런 상황이라 수익 구조 등을 잘 이해하면 좋긴 합니다. 이 부분은 재무 관리 관점으로도 이해가 필요한데, 그걸 위해 재무 관리를 공부하는 것은 우선 순위 상 후순위일 것 같아요(지금 하시는 것을 잘 하시고 추후에 보면 된다는 의미)

그레이스bb님의 프로필 이미지
그레이스bb

작성한 질문수

질문하기