잘 알지도 못하면서: 마음을 읽는다고 자처하는 기술과 이론에 대한 몇 가지 생각

 
Elvis Presley – In The Ghetto

감정을 읽는 기술들

오늘날 가장 탁월한 욕망의 해부학자는 누구일까? 다들 나름의 답을 품고 있을 거다. 하지만 나에게 가장 그럴듯한 후보는 인터넷 쇼핑몰 아마존(Amazon)이다. 아마존은 자본주의의 주요한 면모를 압축하고 있다. 아마존을 성공으로 이끈 것은 바로 새로운 기술과 벌인 아찔한 실험에 있다는 데 토를 달 사람은 없어 보인다. 아마존이 얼마나 많은 특허를 가졌는지 모르겠지만 최근 사람들의 입에 가장 자주 오르내린 신종특허는 예측(anticipatory shipping)배송에 관한 것이다.
2013년 성탄절 전날, 아마존은 새로운 특허를 냈다. 그 특허번호는 “US 8 ,615,473 B2”이고, “예측 포장 배송 방법 및 시스템”이라는 무뚝뚝한 이름을 갖고 있다. 이는 욕망의 해부학자들의 기량이 어느 정도에 이르렀는지를 고하는 지점이다. 예측배송은 내가 무엇을 원할지 미리 짐작하고 내가 곧 찾게 될 물건을 가까운 창고에 운반해두는 원리는 말한다.
아마존이란 기업은 나의 욕망을 예언하고, 이를테면 조만간 내가 치약과 척 팔라닉의 신간 소설과 호밀빵, 라벤터 향이 나는 세탁 세제를 찾을 것이라고 짐작한 뒤 집 근처 창고에 배송해둔다는 거다. 나는 영문도 모르고 아마존에서 물건을 주문한 뒤 당일 배송 될 걸 알고 쾌재를 부르게 될 것이다.

최면술의 테크놀로지, 인공지능

아이폰을 쓰는 사람이라면 한두 번쯤 시리(Siri)를 이용해 객쩍은 장난을 친 적이 있을 거다. 터무니 없는 질문을 속사포처럼 던지면 기계 속의 유령 시리가 기이한 음성으로 대꾸한다. 시리가 작동하는 원리는 이렇다. 시리에게 양꼬치 가게가 어디 있는지 찾아 달라고 물으면 이 질문은 애플 본사 메인 서버로 보내진다. 본사 컴퓨터는 인공지능 알고리즘으로 질문이 무슨 뜻을 담고 있는지 분석한 뒤 대답을 다시 내 휴대전화로 보낸다 곧 손바닥 위에 놓인 네모난 작은 기계는 근처 식당을 검색하기 시작한다. 알다시피 이 과정은 모두 실시간이자 일사천리로 진행된다. 그리고 서버에 질문이 많이 쌓일수록 대답은 보다 정밀해지기 마련이다. 무한히 축적된 데이터베이스는 자신의 학습 알고리즘을 이용해 ‘딥 러닝(deep learning)’ 하기 때문이다.

거대한 데이터베이스에 축적된 정보, 그것을 통한 마음 읽기, 감정 분석의 기술, 딥 러닝. 이런 생각을 좇다 보면 우리는 어쩔 수 없이 정신분석(psychoanalysis)을 떠올리게 된다. 정신분석은 지난 세기 마음을 읽고 감정을 헤아리는 분야에서 경쟁 상대 없이 위세를 떨쳤다. 그것은 심리학이 아니라 사회와 문화, 예술을 비롯한 많은 영역에서 영감의 원천이 되었다. 그렇다면 정신분석과 인공지능을 경유한 마음 읽기는 과연 얼마나 닮았으며 또 얼마나 멀어진 것일까? 우리는 욕망과 감정 읽기의 테크놀리지를 둘러싼 열광이 얼마나 허위적인가를 깨달을 수 있다.
정신분석의 결정적인 특징은 그것이 마음의 뒤에서 언제나 사회를 읽는다는 데 있다. 정신분석에 관해 조금이라도 들어본 적 있는 사람이라면 알 것이다. 정신분석이란, 마음에 자리 잡은 두 개의 적대적인 심급 혹은 작인(ageny) 사이에 빚어지는 끈질긴 죽기 살기의 갈등을 다룬다는 것을.
먼저 본능이라고 알려진 무의식적 욕망을 대표하는 것으로 간주되는 이드(id)가 있다. 이드는 사회가 원하고 인정하는 마음을 대표하는 에고(ego)와 항상 결투를 벌인다. 정신분석학에서는 자본주의적 시민사회가 빚어낸 개인은 언제나 자신을 개인으로 자리하기 위해 사회가 부과하는 압력과 요구에 대처해야 한다고 말한다. 이에 실패할 경우 신경증과 같은 혹독한 시련을 겪어야 한다. 여기에서 우리는 사회가 바깥에 있는 것이 아니라 내 마음속에 하나의 차원으로 들어와 있음을 헤아려볼 수 있다. 사회는 마음 바깥에 있는 것이 아니라 에고라는 이름으로 나의 마음속에 주둔한다.

그렇다면 인공지능 사회란 어디에 있다고 상상해야 할까? 인공지능적인 딥 러닝은 개인의 모임이 곧 사회라고 말한다. 이를테면 천 명으로 구성된 사회가 있다면 천 명의 마음을 더한 것, 아니면 약분한 것으로 생각한다. 또한 수십억 개씩 올라오는 페이스북의 포스트를 수집하고 분석한 뒤 오늘의 추세, 오늘 사회의 윤곽을 그릴 수 있다는 허풍을 떤다. 사회를 자신의 마음속에 집어넣고, 내부에서 양심, 눈치, 체면치레, 성공을 위한 욕구 혹은 체벌과 해고에 대한 두려움이 갖은 형식을 거쳐 벌어진 싸움을 삭제한다.

상사가 올린 모욕적인 쓰레기 농담에 “좋아요(I Like)”를 누를 때, 인공지능은 그 마음을 ‘딥 러닝’한 후 그 가증스러운 농담을 애호한다고 셈한다. 그렇게 더해진 표현이 많으면 많을수록 사회는 그 상태를 좋아한다고 결론 내린다. 사정이 이런 것이라면 사회란 없는 것이다. 아니 사회란 것이 있다고 기꺼이 받아들이더라도 거기에서 말하는 사회란 개인이 제시한 표현을 모두 더하고 다시 그것을 나누고 하는 셈의 결과이다. 철학자들이 좋아하는 표현을 빌자면 사회는 전적으로 내재적이다. 사회는 개인 위에 존재하는 어떤 실체가 아니라 개인끼리 맺은 상호작용을 말한다.

개인과 사회의 관계를 다룰 때 못지않게 중요한 정신분석과 인공지능의 차이가 존재한다. 정신분석은 갈등이나 대립 등 마음을 움직이고 조직하는 원리라고 할 때 인공지능은 단지 개인이 얼마나 사회적 기준에 일치하는지 혹은 그에게서 벗어나는지 알 뿐이다. 대다수가 원하는 것을 원하지 않는다면 나는 괴짜이거나 비정상이거나 평균 바깥의 인물로 간주된다. 그게 불안하다면 모두가 원하는 것을 좇고 크게 괘념할 일이 아니라면 별난 자신을 즐기면 될 일이다. 결국 인공지능은 선택이 어떠한 고통스러운 갈등과 번민을 겪은 뒤에 얻게 된 것인지 간단하게 무시한다. 평균과 확률의 대수학적인 좌표계 안에서 얼마나 가까이 혹은 멀리 있는지 판명할 뿐이다. 같은 맥락에서 끔찍한 일은 또 벌어진다.
예측 배송 못지 않게 경찰과 사법기관이 활용한다고 알려진 인공지능 테크놀로지 “예측 치안(anticipatory policing)”이다.

작동 원리는 살인사건이나 범죄가 벌어지면 등장하는 프로파일링(profiling)을 통해 엿볼 수 있다. 그것은 숱한 범죄 데이터를 인공지능적인 방식으로 수집하고 분석해 누가 범죄자이며 어디에서 범죄가 일어날지 가능성을 예측한다. 말하자면 범죄를 저지를 사람의 마음을 예상하고 그를 찾아낸다. 이는 19세기 후반 등장해 맹위를 떨친 신체측정학(biometrics)의 최신 버전이다. 이는 범죄를 저지르는 자들은 신체에 숨겨진 범죄 소인(素因)을 찾는답시고 야단법석을 떨던 우생학적 기술이었다. 하지만 프로파일링은 묻지 마 살인범에 관한 정보를 아무리 수집하고 통계를 내도 신통한 결과를 얻지 못한다. 지난 수십 년간 묻지 마 살인을 저지른 삶에 대한 정보는 놀라울 만큼 부정확하다. 범죄를 일으킬만한 자의 사회적 특성과 단서를 밝혀내지 못했다. 묻지 마 총기 난사를 저지를 자는 누구인가? 컬럼바인 총기 난사 사건을 저지른 학생은 어떤 소인을 가졌는가. 물어봤자 우리는 명쾌한 해답을 얻을 수 없다.

흑인, 특정한 정신질환에 시달린 병력, 편부모, 사생아, 십 대. 숱한 사회학적인 변수를 도입해봤자 우리는 숱한 반례에 직면할 뿐이다. 그것은 백인일 수도 있고 더없이 멀쩡한 정신을 지닌 총명한 청년일 수도 있다. 또 기꺼이 자식을 위해서라면 지옥 불까지 뛰어들 기세를 각오한 부모의 자식일 수도 있다. 어쩌면 노인이거나 임금피크제 직전의 장년이거나. 프로파일링 기술이 절대 이해하지 못하는 게 있다. 끝없이 구조조정의 압력에 시달리고 동료 노동자끼리 따뜻한 연대나 공감은커녕 경쟁과 시기라는 구렁텅이에 처박은 신자유주의적 자본주의의 원리이다.
혹은 능력지상주의 세계에서 학력을 통해 지위가 배분되는 원리에 따라 끝없이 청소년들을 학습 경쟁에 몰아넣고 불안과 열패감에 사로잡히도록 종용하는 신자유주의적 자본주의 원리이거나.
얼마 전 우리말로 번역된 마크 에임스가 쓴 <나는 오늘 사표 대신 총을 들었다>라는 책은 수십 년간 미국을 휩쓴 묻지 마 살인의 사례를 추적하며 범죄의 원인은 신자유주의 자본주의이라고 말한다. 프로파일링은 인공지능 기술로 예상할 수 있는 특별한 마음의 구조를 지닌 사이코패스가 아니라는 것을 치밀하게 설명한다.

잘 알지도 못하면서

홍상수 감독의 영화 가운데 <잘 알지도 못하면서>라는 작품이 있다. 이 영화에서 우리는 누군가의 마음을 읽을 줄 안다고 자처하는 자들이 항시 헛발질하고 마는 펼쳐지는 상황을 마주하게 된다. 영화의 마지막에 이르러 우리는 여자의 마음이 뻔할 것이라고 지레짐작하며 설레발 치는 남자 주인공을 목도한다. 어이없다고 해야 할지 비웃는 표정이라고 해야 할지 모를 표정을 띤 채 여자 주인공이 뱉는 말을 듣게 된다. 그녀는 배시시 웃으며 “잘 알지도 못하면서”라고 쏘아붙인다. 나는 이 말을 인공지능에게 들려줘야 마땅한 말이 아닐까 한다. 타인의 마음과 감정을 헤아린다고 설레발 치는 인공지능을 향해 기꺼이 충고하고 싶다. 잘 알지도 못하면서. 그렇지만, 잘 알지도 못하면서 수선을 떠는 것은 귀엽게 봐줄 수 있다. 참담한 것은 마음을 완벽히 객관화할 수 있다는 믿음, 그 믿음이 만들어낸 좋은 마음에 따라 좋은 성격, 감정을 갖기 위해 열심히 노력하는 우리의 모습이다. 마음, 감정, 정서가 완벽한 물건처럼 만들어지고 공표되고 훈련되며 강요된다. 쓰라린 서글픔을 참고 좋은 마음을 가진 사람이라는 걸 강조하기 위해 환한 미소를 지어야 하는 우리. 그 측은한 운명처럼 말이다.

_국립현대미술관 웹진 아트 뮤에 기고한 글

댓글 남기기

이메일은 공개되지 않습니다. 필수 입력창은 * 로 표시되어 있습니다

This site uses Akismet to reduce spam. Learn how your comment data is processed.