1. 세 곡 중 두 곡

헤드폰을 쓰자 첫 곡이 흐른다. 피아노가 조금 투박하다. 사람 같다. 둘째 곡은 보컬이 지나치게 매끈해서 어딘가 기계 같고, 셋째 곡은 가사가 뻔해서 이것도 기계일까 싶다. 세 곡을 듣고, 각각 AI가 만든 곡인지 사람이 만든 곡인지 가려야 한다.

나름의 단서를 모아 답을 고른다. 그리고 틀린다.

2025년 가을, 여덟 나라 9,000명이 이런 시험을 치렀다. AI가 만든 두 곡과 사람이 만든 한 곡을 들려주고 판별하게 했는데, 97%가 실패했다. 투박함도 매끈함도 뻔함도, 이제는 누가 만들었는지 알려 주지 않는다.

이 숫자를 처음 봤을 때 웃음이 났다. 우리는 오랫동안 기계가 만든 건 티가 난다고 말해 왔다. 영혼이 없다고, 어딘가 밋밋하다고, 들어 보면 안다고. 그런데 막상 귀를 갖다 대 보니 안다고 말한 사람 백 명 가운데 세 명만 알았다.

곡의 주인을 가리는 첫 번째 증인은 귀였다. 그 증인이 법정에 나와 이렇게 말한 셈이다. 잘 모르겠는데요. 그렇다면 다음 증인을 불러야 한다.

2. 이름표

귀가 안 되면 이름표를 붙이면 된다. 같은 조사에서 열 명 중 여덟은 AI가 만든 곡에 표시를 해야 한다고 답했다. 실제로 어떤 스트리밍 플랫폼은 AI 곡을 찾아내 태그를 달고 추천 목록에서 빼고 있다. 그 플랫폼에는 지난 6월 일부 날에 하루 올라오는 곡의 절반 이상이 처음부터 끝까지 AI가 만든 곡이었다.

그런데 이름표에는 두 가지 문제가 있다.

하나는 이름표도 결국 누군가 붙여야 한다는 것이다. 만든 사람이 신고하거나 기계가 탐지해야 하는데, 신고는 양심에 기대고 탐지는 기술에 기댄다. 곡 전체를 AI가 만들었다면 그래도 가려낼 수 있다. 하지만 AI가 코러스 한 줄이나 드럼 패턴 하나에만 들어가기 시작하면 어디서부터 AI라고 불러야 할지 흐려진다. 반은 사람이고 반은 기계인 곡에는 어떤 이름표를 붙여야 할까. AI가 깊이 스며들수록 이름표는 선의 구실을 잃는다.

다른 하나는 더 고약하다. 이름표는 정보이면서 동시에 낙인이다. 시를 가지고 한 실험이 있다. 셰익스피어와 디킨슨 같은 시인의 시, 그리고 AI가 그들을 흉내 내 쓴 시를 섞어 1,600명 넘는 사람에게 보여 줬다. 사람과 AI를 가려낸 정확도는 46.6%로 동전 던지기에도 못 미쳤고, 사람들은 오히려 AI의 시를 더 높게 평가했다. 그런데 같은 시라도 “AI가 썼다”고 알려 주면 평가가 뚝 떨어졌다. 실제로 누가 썼는지와 상관없이.

음악에서도 이름표의 힘은 크다. 같은 조사에서 셋 중 둘은 호기심에 한 번쯤은 AI 곡을 들어 보겠다고 했지만, 열 명 중 넷은 AI 표시를 보면 건너뛰겠다고 했다. 앞의 그 플랫폼에서 AI 곡이 전체 재생에서 차지하는 몫은 1~3%에 그쳤다. 사람들이 외면해서인지, 이름표가 붙어 추천 목록에서 빠졌기 때문인지는 가르기 어렵다. 어느 쪽이든 이름표는 들릴 기회 자체를 바꿔 놓는다.

이름표는 작품에 대해 말하는 게 아니라, 듣는 사람의 귀를 미리 바꿔 놓는다. 증인이라기보다 판사의 선입견에 가깝다. 이제 남은 증인은 하나다.

3. 무대

마지막 보루는 무대다. 적어도 무대 위에서 노래하는 사람은 진짜니까. 숨을 쉬고 땀을 흘리고, 가끔 음이 나가는 그 몸은 기계가 흉내 낼 수 없다.

맞는 말이다. 그런데 그 몸이 증명하는 건 정확히 무엇일까. AI가 만든 곡을 사람이 무대에서 부를 수 있다. 그러면 무대는 가수가 사람이라는 걸 증명할 뿐, 곡이 사람의 것이라는 건 증명하지 못한다.

한 발 더 나간 일도 이미 일어났다. 요즘은 내 노래를 녹음해서 올리면 AI가 내 목소리로 노래를 부른다. 15초에서 4분 사이의 녹음 가운데 2분을 골라 내 목소리 모델을 만들고, 그 목소리는 나만 쓸 수 있다. 등록할 때는 화면에 뜬 짧은 문장을 소리 내어 읽어야 하는데, 그 말소리와 노래 목소리가 같은 사람의 것인지 대조해 확인한 뒤에야 등록이 된다. 남의 목소리를 몰래 쓰지 못하게 하려는 장치다.

생각해 보면 묘하다. 목소리의 주인은 확인할 수 있다. 몸이 있으니까. 그런데 그 목소리가 부르는 곡의 주인은 확인할 길이 없다. 곡에는 몸이 없으니까. 이제는 목소리의 주인조차 그 노래를 실제로 부른 적이 없을 수 있다.

4. 몸이 없는 사람

정리하면 이렇다. 귀는 이미 구분하지 못한다. 이름표는 붙이기도 어렵고, 붙이는 순간 귀를 바꿔 놓는다. 무대는 가수만 증명한다. 세 증인이 차례로 물러나는 동안 가장 먼저 설 자리를 잃는 사람이 있다. 작곡가다.

가수에게는 아직 몸이 있다. 무대에 서고, 목소리를 등록하고, 숨을 쉰다. 그 몸이 적어도 “나는 여기 있었다”고 말해 준다.

작곡가에게는 처음부터 몸이 없었다. 악보와 녹음 파일 뒤에, 고민한 시간과 버린 멜로디 뒤에 숨어 있던 사람이다. 그 사람을 증명해 주던 건 결과물뿐이었는데, 이제 결과물은 아무 말도 하지 않는다.

그래서 증명은 작곡가에게서 먼저 사라진다. 조용하게, 아무도 알아채지 못하게, 원래 그 사람이 일해 왔던 방식 그대로. 박수는 여전히 무대 위로 쏟아진다. 다만 이제 그 박수가 누구에게 가야 하는지, 아무도 확신하지 못할 뿐이다.

이 글의 논점과 근거를 아카이브에서 읽기 →