추론을 제한했지만 품질이 크게 낮아짐
- 문제
- Gemini 2.5 Pro의 thinking 비용을 줄이려 했으나 절감 폭은 작고 보고서 품질이 떨어짐
- 해결
- 추론을 활용하는 2.5 Flash로 전환하고 CoT·항목별 지침을 다듬음. 입력 프롬프트 길이는 늘리지 않음
- 결과
- 보고서 품질을 개선하면서 생성 비용을 57% 줄임
개요
PM의 채널 데이터 요약 요청에서 광고 대행사·마케터의 데이터 종합 업무를 줄일 가능성을 발견했습니다. 정식 기능화를 제안하고 승인을 받아 기획과 백엔드 개발에 참여했습니다.
담당 업무
기획에 참여하고 백엔드를 단독 담당했으며 Frontend·PM과 협업. 보고서 생성과 요약 재사용을 분리해 고객 기능 출시 이후 채널 임베딩·검색으로 활용 범위를 넓힘
- 기획·구현
- PM과 보고서 구성을 논의하고 데이터 준비·생성·저장·조회 흐름을 구현
- 보고서 생성 비용
- 57% ↓
- 생성 시간에 맞춘 상태 관리
- 약 1분
- 검색·추천의 입력 데이터
- 재사용
구조
- 01인사이트 요청기존 결과·유효성 확인
- 02데이터 준비채널 · 영상 · 시청자 정보
- 03보고서 생성마케팅 관점의 해석
- 04상태·결과 저장완료 결과 재사용
- 05후속 활용채널 임베딩 · 검색
문제 및 해결
과거 휴식 이력이 부정적인 낙인처럼 보임
- 문제
- 복귀 후 활동 중인 유튜버가 과거 휴식 이력이 계속 유의 사항으로 보인다며 수정을 요청
- 해결
- PM과 논의해 휴식 이력을 지우지 않고 최근 복귀·활동 맥락을 함께 표현하도록 수정
- 결과
- 사실을 보존하면서 두 사용자의 관점을 반영하는 보고서 기준을 마련
구현 내용
- 요청 수명
- 약 1분의 생성 작업을 즉시 응답 요청과 구분하고 상태 조회와 저장된 결과 재사용으로 다룸
- 생성 서비스
- 진행 상태 설정부터 한·영 결과 저장, 완료·실패 갱신을 담당. 저장 버전 충돌도 재시도
- 요약 서비스
- 임베딩용 요약은 별도 흐름으로 조회·생성. 기존 요약을 다시 활용해 후속 작업과 연결
- 프롬프트
- 종합 의견·콘텐츠·팬덤·광고 전략·퍼포먼스 등 마케터의 판단 항목에 맞춰 입력과 결과를 구성
- 진행 표시
- 일부 진행 단계는 경과 시간 기반으로 표시. 화면의 진행률과 실제 LLM 내부 처리 단계를 구분