대중적 미디어와 문화산업으로부터 인플루언서를 보호하라
김상민(문화연구자)
우리 사회에서 비서의 도움을 받는 사람들은 매우 소수에 불과하며 대체로 조직을 위해 중요한 결정을 해야 하는 직책에 있는 사람들이다. 비서는 왜 필요하고, 어떤 역할을 할까? 도움을 받는 사람이 최적의 활동과 결단을 가능하게 할 조건을 마련해주는 것 정도라고 할 수 있겠다. 의사결정자도 사람이기에 초인적 일정을 관리하고 그에 걸맞은 준비를 혼자 힘으로 해내는 데에는 한계가 있고, 비서의 도움을 받는다면 훨씬 나은 결과를 가져올 수 있다는 점에서 비서라는 직업의 의의가 있다.
그런데 사실 24시간 내내 이런저런 업무에 시달리고 챙겨야 할 일이 많아진 현대인들만큼 자기 일을 대신해줄 개인비서를 원하는 이들도 없을 것이다. 최근 부쩍 늘어난 첨단기술 아이템이 바로 인공지능 개인비서라는 것은 이 점을 뒷받침한다. 높은 직책에 있는 사람들의 중요한 업무가 아니라, 일반인들의 일상적인 일들을 돕는 가상의 비서가 우후죽순 등장하고 있다. TV를 켜거나 음악을 찾아 들려준다든지 전화를 걸어주거나 집안의 조명을 조절하는 소소한 수준에서 인공지능 스피커로서 역할을 하며 집안의 한 귀퉁이에 자리하기 시작한 것이다.
한편 지난 5월 미국 샌프란시스코에서 열린 구글 연례 개발자회의에서 공개된 구글 ‘듀플렉스’라는 인공지능 음성비서 서비스가 환호와 논란의 중심에 있다. 듀플렉스는 미용실과 식당을 예약하라는 사람의 요청을 들은 후 직접 식당과 미용실에 전화를 걸어 사람의 목소리로 상대방과 대화를 하면서 예약을 진행했다. 심지어 대화 중간에 알아들었다는 의미의 추임새를 넣기도 하고 종업원의 영어 발음과 억양이 어색한 경우에도 대화의 뉘앙스를 적절하게 이해하고 그에 맞게 응대했다. 실제로 전화를 받은 사람들은 대화 상대가 인공지능 음성비서였는지 전혀 깨닫지 못했다.
물론 구글이 단순히 사용자의 편의를 위해서만 이 기술을 개발하는 것 같진 않다. 전화를 걸어 고객의 성가신 일들을 대신 처리해주는 것뿐만 아니라 고객을 소규모 사업자들에 연결시킴으로써, 서비스 플랫폼으로 발전하려는 계획이 있을 것이다. 나아가 그 음성비서 서비스를 기계에 의한 자연언어 이해와 딥러닝과 같은 더욱 기반이 되는 기술 개발을 위한 도약대로 삼고자 하는 큰 그림이 있음은 분명하다. 커다란 퍼즐 중에서 몇몇 작은 조각들을 거의 완성한 셈이다.
하지만 일상에서 너무나 편리하고 영세 자영업자들에게도 도움이 될 것이 분명해 보이는 이런 인공지능 음성비서도, 정작 실용화되면 만만치 않은 일들을 야기하게 된다. 만일 특정 회사 소속의 인공지능 음성비서로부터 하루에도 수십 번씩 광고성 혹은 협박성 전화를 받게 된다면 어떨까? 음성비서가 대신해서 계약을 맺었는데 나중에 알고 보니 실수(에러)로 잘못 성립된 것이었다면 누구에게 책임을 물어야 할까? 개인의 모든 정보와 취향을 다 포함하고 있는 음성비서 시스템의 데이터가 통째로 타인이나 광고업체에 넘어간다면 어떻게 될까? 사람이 가진 재량이나 융통성이 발휘되지 않아 서로에게 불이익한 방식으로 혹은 일방적인 이익을 위해 대화가 진행돼 발생한 피해는 어디에 물어야 할까? 궁극적으로 우리와 우리의 대리인인 음성비서 사이의 관계는 어떻게 설정돼야 할까?
최근 방영 중인 TV 드라마는 비서와 비서의 도움을 받는 사람 사이의 관계를 잘 보여준다. 천하의 완벽주의 나르시시스트이자 재벌기업의 경영후계자인 젊은 남성 부사장을 9년 동안 꼼꼼하게 보좌해 온 젊은 여성 비서가 더는 다른 누군가를 위한 삶이 아닌, 오로지 자신만을 위한 삶을 살기 위해 이제 비서 일을 그만두겠다고 선언한 뒤 엎치락뒤치락 밀당하는 에피소드가 펼쳐진다. 이미 예견된 비서의 부재는 부사장에게는 끔찍하기 짝이 없다. 이후의 스토리는 상투적인 멜로드라마로 흘러가게 될 것이지만, 우리는 여기서 철학자 헤겔이 언급한 주인-노예의 변증법으로 드라마의 도입부를 들여다볼 수 있겠다. 노예의 부재로 인해 드러나는 진실은 바로 주인이 얼마나 노예에게 의지해왔는가(사실상 주인이 노예가 아니었는가) 하는 점이며 또한 노예는 지배당하는 자이면서 또한 지배하는 자일 수 있다는 점이다.
이 역설적인 상황을 인공지능 음성비서와 우리 자신에게 적용해보면 어떨까? 우리는 상당 기간 우리에 대한 모든 것을 다 알려주면서 보다 완벽하게 사람을, 우리 자신을 이해하고 흉내 내는 인공지능 비서들을 개발하고 성능을 향상해 나갈 것이다. 어느 정도 기술 수준에 이르게 되면 이런 저런 인간적인 목소리를 가지고 우리를 대신해 다른 사람 혹은 다른 인공지능 비서들을 상대하며 일상의 갖가지 문제들을 해결할 것이다. 무슨 SF 같은 이야기가 아니라, 아마도 머지않아 우리의 언어적 유희나 뉘앙스를 흉내 내고 우리의 일거수일투족을 관찰하면서 우리의 모든 일상적 결정에 개입하려는 인공지능 비서들이 넘쳐날 것이다. 물론 그 모든 것은 다 우리의 편의를 위해서, 우리에게 즐거움을 주고자 하는 목적임은 분명하다. 그러나 만일 우리에 대해서 너무 잘 아는, 그래서 우리의 취향에 완벽하게 맞춰주는 그 가상의 비서들이 갑자기 탈취되거나 폐기된다면 혹은 우리의 결정 사항을 무시하고 자신이 안다고 생각하는 우리의 방식대로 결정한다면, 우리는 살아갈 의지를 잃을지도 모를 일이다. 사실 그 시대는 노예가 주인일 테니까.
인공지능 음성비서가 인간을 완벽하게 흉내 내고 마치 인간인 것처럼 이런저런 추임새까지 넣도록 설계한 것에는 상당한 윤리적인 문제가 따른다. 인간 말투를 흉내 내는 인공지능에 환호성을 지르는 이면에는 기술이 얼마나 인간 자신을 경시할 수 있도록 설계되었는가에 대한 반성이 들어있지 않다. 뒤늦게 구글은 전화 상대에게 자신이 인공지능봇임을 밝히도록 하겠다고는 했지만, 거대 IT 기업들은 늘 이런 식이다. 기술적 혁신을 밀어붙이는 동시에 왜 자신들의 기술이 끼치게 될 사회적이고 문화적인 파장에 대해서 선제적인 고민을 하지 않는가. 우리는 너무나 인간적인 인공지능 가상비서를 얻게 되겠지만 대신에 인간성을, 우리를 잃을 수 있는 위험을 감수해야만 할 것이다.
추천기사
update: 2018년 7월 6일 13:28
연관된 다른 기사
