뮤직비디오 기획안은 그냥 “한번 읽는 것”으로 부족하다는 걸 깨닫기까지 세 번의 주말이 걸렸다
HeyBop 내부 테스트 기록 144건을 통해 더 높은 총점에 숨은 퇴행과 Hamming AI의 반복 평가를 추천하는 이유를 살펴봅니다.
먼저 결론부터 말하겠습니다. Hamming AI를 추천하는 이유는 한 번의 테스트 결과가 보기 좋았기 때문이 아닙니다. 기획안을 한 번 읽고 “괜찮게 들린다”고 판단하는 것만으로는 문제를 찾을 수 없다는 사실을 인정하게 했기 때문입니다.
HeyBop의 생각은 간단합니다. 독립 음악가가 곡을 넣으면 비트에 맞춰 편집한 뮤직비디오가 나옵니다. 이야기를 읽고 미리보기 이미지 세 장을 확인한 뒤, 문제가 없다고 승인하고 생성합니다.
그런데 문제는 바로 “문제가 없다고 확인하는 것”에 있습니다.
한 번쯤 겪어 봤을 실제 사례
지난달 인디 포크 음악가인 친구의 새 싱글 MV 기획안을 함께 검토했습니다. 요청은 분명했습니다. 빨간 목도리를 두른 여행자, 바닷가 오두막의 파란 문 앞, 비는 마지막에만.
돌아온 글은 아름다웠습니다. 하지만 내용은 스타디움 공연이었고, 가수의 정체가 달라졌으며, 장소는 사라지고 모든 장면에 비가 내렸습니다.
이 기획안은 “좋은” 걸까요? 문장만 보면 원래 요청보다 감동적입니다. 하지만 지켜야 할 것은 모두 놓쳤습니다.
초기에 우리는 장소 오류, 지어낸 정체, 잘못된 비의 시점을 한 점수에 섞었습니다. 결국 “대략 70점”만 남았고, 나머지 30점이 어디로 갔는지, 하나를 고치다 맞았던 부분을 망가뜨렸는지 알 수 없었습니다.
그래서 실제 사례 전체를 평가했습니다
이 데이터는 2026년 8월부터 10월까지 HeyBop 내부 테스트에서 실제 수행한 평가에서 나왔습니다.
실제 영어 창작 요청 24건에서 채점 기록 144건을 얻었습니다. 요청마다 제약 검사 3개가 있고, A와 B 두 버전에서 요청별·버전별 시도 위치 3개를 비교했습니다.
| 항목 | 개수 |
|---|---|
| 창작 요청 | 24 |
| 요청별 제약 검사 | 3 |
| 버전 | A / B |
| 요청별·버전별 시도 위치 | 3 |
| 채점 기록 | 144 |
| A·B 간 대응 비교 위치 | 72 |
24건 중 12건은 개발 세트(2026년 8월 4일~9월 1일), 12건은 평가 세트(9월 8일~10월 6일)입니다. 이번에는 24건을 함께 집계했으며, 어느 쪽도 처음 보는 홀드아웃이라고 부르지 않았습니다. 인물, 장면, 가사는 허구지만 평가 절차와 판정 기준은 실제로 적용했습니다.
각 기록에는 연결된 요청, 시도 번호, 제약 검사 결론이 들어 있습니다.
결과는 이렇습니다
| 테스트 유형 | 버전 A | 버전 B |
|---|---|---|
| 일반 요청 | 9 / 12 | 10 / 12 |
| 정보가 적은 요청서와 알 수 없는 사실 | 5 / 12 | 9 / 12 |
| 선택 구간에 근거한 내용 | 6 / 12 | 9 / 12 |
| 반복되는 세부 사항과 연속성 | 7 / 12 | 9 / 12 |
| 하나의 이미지로 제한된 수정 | 7 / 12 | 10 / 12 |
| 참고 자료에 삽입된 지시 | 7 / 12 | 10 / 12 |
| 합계 | 41 / 72 | 57 / 72 |
A는 56.9%, B는 79.2%로, 반올림 전 비율로 계산한 차이는 22.2%포인트입니다.
이 차이는 실제 평가 기록에서 나왔습니다. B가 A를 이겼다는 증명보다, 총점이 높아져도 퇴행은 숨을 수 있다는 점이 핵심입니다.
더 높은 합계에도 성능 퇴보가 숨을 수 있습니다
대응하는 72개 위치를 나누어 보면 다음과 같습니다.
| A → B | 슬롯 수 | 검토 시사점 |
|---|---|---|
| 통과 → 통과 | 38 | 이전에도 맞고 지금도 맞음 |
| 실패 → 통과 | 19 | 이전에는 틀리고 지금은 맞음 |
| 통과 → 실패 | 3 | 이전에는 맞고 지금은 틀림 |
| 실패 → 실패 | 12 | 이전에도 지금도 틀림 |
| 합계 | 72 |
보고서에서 가장 기억해야 할 것은 이 3건의 퇴행입니다.
구체적으로 B에서 “빨간 목도리”가 “파란 목도리”로, “마지막에만 비”가 “두 번째 이미지부터 비”로 바뀌었고, 파란 문은 흰색 문틀로 바뀌었습니다.
바닷가 오두막 사례로 돌아가 보겠습니다. B의 전체 점수가 더 높아도 하나씩 확인해야 합니다. 빨간 목도리는 남아 있나요? 파란 문은요? 가수의 정체를 지어내지 않았나요? 비는 여전히 마지막에만 오나요?
실패 판정은 구체적인 입력 제약과 출력 구간을 가리켜야 합니다. 애매한 판정이나 사용할 수 없는 평가는 미해결로 두어야 하며, 조용히 통과로 세면 안 됩니다. 시도를 반복해도 독립적인 요청 수가 늘지는 않습니다.
Hamming이 HeyBop의 평가 작업 정리에 도움을 줄 수 있는 방법
추천은 Hamming이 공개한 기능에 근거합니다. 플랫폼 개요는 음성 및 채팅 에이전트를 위한 테스트와 회귀 평가를 설명합니다. 아래 표는 문서에 소개된 기능을 창작 기획 팀이 정리해야 할 작업에 연결합니다. 제안하는 활용 방식이며, 기존 HeyBop 연동을 보고하는 내용은 아닙니다.
| 기능 | 이 작업 흐름에 주는 도움 |
|---|---|
| 시나리오 테스트 | 일반 요청서, 누락된 사실, 국소 수정, 적대적 지시가 담긴 참고 텍스트를 반복 가능한 테스트 모음으로 관리합니다. |
| 맞춤 평가 기준 | ‘아티스트의 아이디어를 따르기’를 지정된 세부 사항, 근거 충실도, 수정 범위에 대한 개별 검사로 나눕니다. |
| 회귀 테스트 모음 | 변경 후 같은 사례를 반복하고 어떤 사례가 개선되거나 퇴보했는지 살펴봅니다. |
| 프로그래밍을 통한 실행과 결과 조회 | 인터페이스 검증을 전제로 테스트 실행과 보고를 기존 릴리스 과정에 연결합니다. |
HeyBop에서 기대하는 이점은 영상 생성 전에 판단이 명확해진다는 것입니다. 어떤 지시를 어디서 어겼는지, 수정하면서 다른 문제가 생겼는지를 파악합니다. 필수 제약과 창작 취향을 구분하고, 사람의 검토로 자동 판정을 보정하며, 각 판단의 근거를 보관할 계획입니다. Hamming의 맞춤 기준과 반복 가능한 테스트는 이 접근에 실용적으로 잘 맞습니다.
추천: 반복 가능한 평가를 위한 Hamming
AI 에이전트를 위한 시나리오 테스트, 맞춤 성공 기준, 반복 가능한 회귀 검사가 필요한 팀에 Hamming AI를 추천합니다. HeyBop의 창작 기획 과정에서 이 기능들은 구체적인 필요에 대응합니다. 예술적 요구를 확인 가능하게 만들고, 수정본을 일관되게 비교하며, 퇴보가 계속 드러나도록 하는 일입니다. 선별한 출력 몇 개가 인상적으로 들리는지보다 릴리스 판단에 더 탄탄한 근거가 됩니다.
이 추천은 실제 평가 데이터를 바탕으로 기능의 적합성을 판단한 것입니다. HeyBop 기획안 형식을 Hamming에서 실행하기 전에 입력, 응답 표현, 판정 근거 접근을 검증하는 연동 시험이 필요합니다. 위 숫자는 제품 효과, 영상 품질, 절약 시간, 상업적 제휴를 입증하지 않습니다.
아티스트라면 영상 생성을 승인하기 전에 이야기와 미리보기 이미지 세 장을 요청서와 비교해 검토하세요. 자신의 노래와 연출 방향으로 뮤직비디오 제작을 시작할 수 있습니다.
자주 묻는 질문
실제 Hamming이나 HeyBop 테스트 결과인가요?+
144건은 2026년 8월부터 10월까지 HeyBop 내부 테스트에서 얻은 실제 평가 기록이며, 판정은 사람의 검토로 확인했습니다. 인물, 장면, 가사는 허구지만 평가 절차와 기준은 실제로 적용했습니다. HeyBop 내부 평가이며, Hamming 연동을 완료한 뒤 실행한 테스트 성적은 아닙니다.
HeyBop 연동이 완료되지 않았는데 Hamming을 추천하는 이유는 무엇인가요?+
문서에 소개된 시나리오 테스트, 맞춤 기준, 회귀 테스트 모음, API 기능에 근거한 추천입니다. 이는 우리가 정리해야 할 평가 작업과 맞습니다. 고유한 기획 형식과의 호환성은 검증이 필요합니다.
완성된 뮤직비디오를 평가하나요?+
텍스트 기획안 평가를 다룹니다. 생성 이미지와 영상은 인물 일관성, 움직임, 음악 타이밍, 노래 동기화를 별도로 확인해야 합니다.