내가 좋아해서 본 것일까, 보여줘서 본 것일까
동영상 서비스의 첫 화면에 열 개의 콘텐츠가 놓였다.
사용자는 위쪽 세 개 가운데 하나를 선택했다. 시스템은 클릭을 기록하고 “이 사용자는 이런 콘텐츠를 좋아한다”고 학습했다.
하지만 사용자는 아래쪽 일곱 개를 싫어해서 선택하지 않은 것이 아닐 수 있다. 화면을 내리지 않았거나, 존재를 몰랐거나, 위쪽 콘텐츠가 먼저 눈에 들어왔을 뿐일 수 있다.
추천 데이터에는 중요한 차이가 있다.
사용자가 선택한 것과 선택할 기회를 얻은 것은 다르다.
사람의 선호를 관찰하는 동시에 무엇을 볼 기회를 줄지 결정하는 것이 추천 시스템이다. 그 결과가 곧 다음 학습 데이터가 된다.
추천은 순위를 만든다
추천 모델은 보통 여러 후보에 점수를 붙이고 순서를 정한다.
- 클릭할 가능성
- 구매할 가능성
- 끝까지 볼 가능성
- 장기 이용 가능성
- 만족도
- 다양성
실제 화면에는 모든 후보를 보여줄 수 없다. 상위 몇 개만 노출된다. 작은 점수 차이가 노출 여부를 크게 바꿀 수 있다.
상위에 올라온 콘텐츠는 더 많은 클릭 기회를 얻는다. 클릭이 늘면 다음 학습에서 더 인기 있는 콘텐츠로 보인다. 다시 상위에 노출된다.
이것이 추천의 피드백 루프다.
추천 → 노출 → 사용자 행동 → 새 데이터 → 재학습 → 다음 추천
추천은 미래 행동을 맞히는 것처럼 보이지만, 자신이 그 행동을 일부 만들어낸다(그림 15-1).
후보, 순위, 노출, 행동, 로그, 재학습이 이어지는 원형 루프.
그림 15-1. 추천 피드백 루프 — 추천은 사용자의 선호를 관찰할 뿐 아니라 노출을 정해 다음 데이터를 만든다.
관찰되지 않은 선택은 알 수 없다
사용자가 콘텐츠 A를 클릭하고 B를 클릭하지 않았다고 하자.
다음 세 경우는 기록상 비슷해 보일 수 있다.
1. A와 B를 모두 봤지만 A를 선택했다.
2. A만 노출되었다.
3. B도 있었지만 화면 아래에 있어 보지 못했다.
클릭 로그만 보면 B를 싫어했다고 잘못 해석할 수 있다.
그래서 추천 데이터를 볼 때는 노출 기록이 중요하다.
- 무엇을 보여주었는가
- 어느 위치에 보여주었는가
- 얼마나 오래 노출되었는가
- 어떤 후보는 아예 보여주지 않았는가
- 추천이 아닌 검색·외부 링크로 들어왔는가
행동 데이터는 선호의 직접 측정값이 아니라 노출 조건 아래에서 나온 반응이다(그림 15-2).
보았지만 거절, 노출되지 않음, 화면 아래에 있음의 세 상황 비교.
그림 15-2. 선호와 노출의 차이 — 클릭하지 않았다는 사실은 보았지만 거절했다는 뜻과 같지 않다.
인기 편향은 스스로 강화된다
많이 노출된 항목은 더 많은 반응을 얻는다. 반응이 많은 항목은 더 좋은 추천 후보로 보인다. 이 구조는 인기 항목을 계속 강화할 수 있다.
신규 콘텐츠와 소수 취향 콘텐츠는 초기 반응 데이터가 적다. 실제로 좋은 콘텐츠여도 상위에 올라올 기회가 없을 수 있다. 반대로 이미 인기 있는 콘텐츠는 평균적인 반응만으로도 계속 유리한 위치를 차지한다.
인기 편향이 항상 나쁜 것은 아니다. 많은 사람이 좋아한 항목은 실제로 유용한 후보일 수 있다. 문제는 추천이 기존 인기를 반영하는 정도와 새 항목을 탐색하는 정도를 어떻게 균형 잡는지다.
활용
이미 좋은 것으로 알려진 항목을 추천한다.
탐색
정보가 부족한 새로운 항목을 일부 보여준다.
활용만 하면 단기 클릭률은 오르지만 선택지가 좁아진다. 탐색을 늘리면 당장의 성능은 조금 내려가도 장기적으로 더 나은 후보가 드러난다.
그림 15-3은 추천 시스템의 활용과 탐색 사이의 긴장을 보여준다.
인기 항목 집중과 신규 항목 탐색을 저울처럼 비교한 도식.
그림 15-3. 활용과 탐색 — 이미 좋은 것으로 알려진 항목을 활용하는 것과 새로운 후보를 탐색하는 것 사이에 균형이 필요하다.
추천 목표가 사용 경험을 만든다
무엇을 최적화하느냐에 따라 추천의 성격이 달라진다.
클릭률
눈길을 끄는 콘텐츠가 유리하다.
시청 시간
길고 이어보기 쉬운 콘텐츠가 유리할 수 있다.
구매액
고가 상품이나 추가 구매를 유도하는 상품이 유리할 수 있다.
장기 만족
즉시 측정하기 어렵고 피드백이 늦다.
다양성
여러 주제와 공급자를 노출할 수 있지만 단기 반응과 충돌할 수 있다.
하나의 목표를 높이는 것이 전체 서비스 목적을 높인다는 보장은 없다. 클릭률이 높은 추천이 피로감과 후회를 늘릴 수 있고, 시청 시간이 긴 추천이 정보 다양성을 줄일 수 있다. 추천 성능은 클릭 예측 정확도만이 아니라 사용자의 장기 경험과 생태계에 미치는 영향으로 평가해야 한다.
추천은 공급자에게도 영향을 준다
이 영향은 사용자에만 머물지 않는다.
상위 노출을 받은 판매자·작가·창작자는 더 많은 반응과 수익을 얻는다. 노출이 적은 공급자는 데이터가 쌓이지 않아 계속 불리할 수 있다. 추천 기준에 맞추기 위해 제목, 썸네일, 상품 구성과 콘텐츠 스타일을 바꿀 수도 있다.
시스템은 공급자의 행동을 바꾸고, 바뀐 콘텐츠가 다시 추천 데이터에 들어간다.
따라서 추천을 평가할 때는 다음을 함께 볼 수 있다.
- 사용자 만족
- 신규 항목 노출
- 소수 취향의 발견 가능성
- 공급자별 노출 격차
- 동일 항목 반복
- 장기 이용과 이탈
- 유해하거나 편향된 콘텐츠의 증폭
국내 사례 | 카카오T 배차 알고리즘: 같은 로직의 법적 해석도 달라질 수 있다
공정거래위원회는 2023년 카카오모빌리티의 일반호출 배차 알고리즘이 자사 가맹택시를 우대했다고 판단해 시정명령과 과징금을 부과했다. 서울고등법원은 2025년 5월 해당 처분을 취소했다. 공정위가 상고해 2026년 8월 기준 대법원에 계류 중이다. 따라서 서울고법의 취소 판결은 아직 확정된 결론이 아니다.
이 사례는 알고리즘의 결과만으로 목적과 위법성을 자동 판정하기 어렵다는 점을 보여준다. 어떤 특징을 사용했는지, 배차 수락률 같은 운영 변수가 어떤 목적을 가졌는지, 비교 대상이 실제로 동등한 조건인지까지 함께 봐야 한다. 동시에 추천·배차 순위가 기사와 공급자의 기회에 직접 영향을 준다는 사실도 사라지지 않는다. 기술 설명, 운영 목적, 시장 영향과 법적 기준을 분리해 검토해야 한다.
출처: 공정거래위원회(2023.2.14), 서울고등법원 2023누50891 관련 판결 보도(2025.5.22). 2026년 8월 기준 대법원 계류 상태를 반영했다.
오프라인 평가와 실제 운영은 다를 수 있다
과거 로그를 이용해 추천 모델을 평가할 수 있다. 과거 사용자가 선택한 항목을 새 모델이 높은 순위에 올리는지 확인하는 방식이다.
하지만 과거 로그 자체가 이전 추천 시스템의 노출 결과다. 새 모델이 이전 시스템과 다른 좋은 후보를 추천해도 과거에 노출되지 않았다면 정답 데이터에 반응이 없다.
오프라인 점수가 높은 모델이 실제 사용자 만족도에서도 높으리라는 법은 없다.
실제 운영에서는 제한된 실험을 통해 확인할 수 있다.
- 클릭률
- 구매율
- 장기 유지
- 다양성
- 신고와 숨김
- 신규 항목 발견
- 사용자 설문
그러나 실험도 단기 지표만 보면 장기 부작용을 놓칠 수 있다. 추천은 현실을 바꾸기 때문에 평가 기간과 보호 지표가 중요하다.
추천 이유는 실제 계산 근거와 다를 수 있다
추천 시스템은 “최근에 과학책을 읽었기 때문에 이 책을 추천합니다”처럼 이유를 보여줄 수 있다. 이런 설명은 사용자가 결과를 이해하고 수정하는 데 도움이 될 수 있다.
그러나 화면에 표시된 추천 이유가 모델이 실제로 사용한 모든 신호를 정확히 보여준다는 보장은 없다. 인기 순위, 제휴 조건, 재고, 수익 목표, 비슷한 이용자의 행동이 함께 작용했지만 설명에는 한 가지 이유만 제시될 수 있다. 생성형 AI가 추천 문구를 작성한다면 실제 계산과 무관한 그럴듯한 이유를 만들어낼 위험도 있다.
추천 설명을 평가할 때는 다음을 구분해야 한다.
- 사용자가 이해하기 쉬운가
- 실제 추천 계산과 연결되는가
- 광고·제휴·조직 목표가 공개되는가
- 사용자가 잘못된 선호를 수정할 수 있는가
설명은 추천을 더 설득력 있게 만드는 장식이 아니라, 사용자가 결과를 통제하고 이의를 제기할 수 있게 하는 정보여야 한다.
개인화는 사용자를 고정된 취향으로 만들 수 있다
개인화는 사용자에게 필요한 후보를 빠르게 찾게 한다. 동시에 과거 행동에 기반해 선택지를 좁힐 수 있다.
사용자가 우연히 몇 번 본 주제가 계속 추천되면 새로운 관심을 탐색할 기회가 줄어든다. 가족이 함께 쓰는 계정이나 업무·취미가 섞인 이용자에게 하나의 고정된 취향 프로필을 적용하면 오해가 생긴다.
좋은 개인화는 사용자를 완성된 유형으로 단정하지 않는다.
- 추천 이유를 조정할 수 있게 함
- 관심 없음·숨김 피드백 제공
- 탐색 모드와 비개인화 선택 제공
- 최근 행동과 장기 관심을 구분
- 계정 공유 가능성 고려
- 민감한 추론을 제한
생성형 AI와 추천의 결합
대화형 AI는 사용자의 질문을 바탕으로 상품, 책, 뉴스, 문서와 행동을 추천할 수 있다. 설명까지 자연스럽게 생성하기 때문에 기존 추천보다 더 설득력 있어 보일 수 있다.
하지만 다음 문제가 남는다.
- 검색된 후보 자체가 편향되어 있을 수 있다.
- 상위 검색 결과만 답변에 반영될 수 있다.
- 존재하지 않는 상품이나 출처를 만들 수 있다.
- 사용자의 짧은 대화에서 민감한 선호를 과도하게 추론할 수 있다.
- 추천 이유가 실제 점수 계산과 다를 수 있다.
- 제휴·광고·조직 목표가 사용자 목적과 충돌할 수 있다.
대화형 추천이 자연스러운 설명을 제공해도 노출과 피드백 루프의 문제는 그대로 남는다. 설명의 설득력이 높아진 만큼 사용자가 추천을 더 강하게 따를 위험도 커진다.
실제 업무에서 확인할 것
- 클릭하지 않은 항목이 실제로 노출되었는가?
- 위치와 노출 시간을 기록하는가?
- 인기 항목의 자기강화와 신규 항목의 불이익을 측정하는가?
- 활용과 탐색의 균형이 있는가?
- 클릭·시간·구매 외에 장기 만족과 다양성을 보는가?
- 사용자뿐 아니라 공급자별 노출 영향을 확인하는가?
- 과거 로그 기반 오프라인 평가를 실제 운영 효과와 동일시하지 않는가?
- 생성형 AI가 만든 추천 이유를 실제 근거와 구분하는가?
판단 카드 15
추천 출력이 다음 데이터를 만든다.
한 문장 정리
추천 시스템은 무엇을 보여줄지 정해 다음 선택과 학습 데이터를 함께 만든다. 사용자의 선호를 중립적으로 읽는 도구가 아니다.
