CT Press » Blog Archive » [CT OPINION] 터틀맨, 김광석의 목소리로 되짚어보는 AI 윤리

[CT OPINION] 터틀맨, 김광석의 목소리로 되짚어보는 AI 윤리

October.2021 No Comment

작년 말과 올해 초에 엠넷과 SBS에서 AI를 이용해 고인이 된 유명한 가수의 목소리를 다시 들려주는 프로그램들을 방영했다. 엠넷의 “다시 한번”[1] 같은 경우에는 김현식과 터틀맨의 목소리를 복원해 그 시절의 무대를 재현하는 프로그램을 선보였다. 고인들의 가족들이 나와 인터뷰를 하면서 눈물을 보이는 장면도 있었고 터틀맨의 경우 예전 거북이 멤버들이 출연해 직접 공연을 같이 하는 무대를 펼치기도 했다. 그 때 그 시절, 한때 아이돌만큼이나 유명했던 가수들을 다시 한번 만나보는 컨셉이었다. 이로 하여금 많은 시청자들이 자연스레 감동을 받고 추억에 젖는 모습이었다. 반면 SBS의 “AI vs 인간”[2]은 김광석의 목소리를 복원하면서 감동을 주기도 했지만 메인 컨셉은 AI와 인간과의 대결 구도를 만들어서 투표를 통해 승패를 가르는 것이었다.

[그림 1] 다시 한번, 터틀맨

이 두 프로그램은 대중들에게 AI라는 것을 음악이라는 매우 친근하고 접근이 쉬운 방식을 이용해 소개를 해주었다. 아무래도 많은 사람들이 AI가 이런 분야에서도 적용이 되면서 우리의 삶에 스며들게 되는 것이라고 느낄 수 있는 또 다른 계기가 되지 않았을까 싶다.

그런데 우리는 이 프로그램들에 대한 대중들의 반응을 살펴보며 과연 방송국에서 그리고 AI연구자들이 이런 방식으로 AI를 이용하고 수익을 내는 것이 올바른 일인지에 대해 생각해볼 필요가 있다. 현재 AI 기술과 AI 기술에 전부라고 해도 무방한 데이터에 대해 아직 마땅한 규제가 없다. 예를 들어, 작년에 논란이 있었던 “이루다 사태”와 같이 누가 어떤 데이터를 어떻게 모으는지 그리고 그 데이터를 어떻게 사용하는지에 대해 별다른 제약이 없는 상황이다. 게다가 AI에 대한 지식이 없는 사람이라면 본인의 데이터가 어떤 형식으로 사용되는지 이해를 하기도 어려워 피해를 보기 더 쉬울뿐만 아니라 어떻게 본인이 피해를 보는지 모르는 상황이 발생한다. 따라서 최근에 우리나라에도 AI 윤리라는 키워드가 새로운 이슈로 등장하게 되었다.

[그림 2] AI vs 인간

위에서 소개한 두 프로그램들은 방영 전 미리보기를 공개했을때부터 많은 관심을 끌었고 방영을 하고 난 뒤 대중들의 반응은 가지각색이었다. 일단 대체로 프로그램 자체에 대해서는 긍정적인 시각이 더 많아보였다. 수많은 댓글들이 “감동적이다”, “그립다”와 같이 AI 에 대한 반응보다는 프로그램에 대한 반응이 주를 이뤘다. 그리고 AI 기술에 대한 긍정적인 평가도 종종 보였다. 예를 들면, “목소리가 너무 똑같다”, “기술의 발전 대단하다” 라면서 기술 자체의 발전에 대해 칭찬을 하는 댓글도 있었고 “기술 덕분에 이렇게 목소리라도 다시 들을 수 있어서 너무 감사하다” 라던지 “돌아가신 부모님의 목소리도 이렇게 복원해서 들을 수 있으면 소원이 없겠다” 와 같은 이 AI 기술로 인해 또 감동을 받고 본인이 사용 의지를 밝히는 댓글들도 자주 등장했다.

반면, 부정적인 반응들도 눈에 많이 띄었다. 특히 고인의 목소리를 본인의 허락도 없이 이렇게 쓰는 것은 예의가 아니라며 AI 윤리의 핵심을 건드리는 댓글들이 많았다. 그리고 또 “AI때문에 이제 인간이 설 자리가 없어졌다”, “”음악 그만둬야하나”와 같이 인간으로서 AI에게 위협을 느끼는 사람들도 보였고 딥페이크와 이루다를 언급하며 보이스 피싱같은 위험한 상황이 더 심각한 수준으로 가능할 것이라며 우려하는 반응들도 많았다. 아무래도 AI에 대해 조금이라도 아는 사람과 아예 모르는 사람들과의 반응에 차이가 있는 것이 분명하다.

[그림 3] 틱톡에서 화제가 된 Deepfake 톰 크루즈

앞으로 대중들이 AI를 접하고 실제로 사용하는 사례들은 많아진다. 그에 따라 우리가 한번도 겪어보지 못했던 문제들도 많이 생겨날 것이다. 그런데 이 문제들은 정말 해결하기 어렵고 답을 내기에는 무척 어렵다. 예를 들어, 비록 가족들의 허락은 받았지만 엄밀히 말하자면 고인이 된 본인의 허락은 아닌데 과연 그들의 목소리를 쓰는 것이 올바른가? 여기에 대한 정답은 없어 보인다.
따라서 우리는 이런 상황에서 어떤 식으로 연구를 해야할지 고민해볼 필요가 있다고 생각한다. 무턱대고 AI 기술의 발전에만 집착하면서 연구를 하는 것은 맞지 않아 보인다. 왜냐하면 앞으로 어떤 식으로 AI가 일상생활에 잘 녹여드는가는 연구자에게도 직접적인 영향을 미칠 것이라 예상하기 때문이다. 예컨대, AI가 재생성한 고인의 목소리의 저작권은 고인에게 있는지 AI 기술자에게 있는 지에 대한 문제에 관여 할 수 밖에 없다. 모두가 처음 가는 길인만큼 기술적인 문제뿐만 아니라 다른 분야에도 어떤 영향을 미치고 있는 지에 대해 관심을 가져야 할 것 같다.

이경연 기자