서평 | 만국의 노동자여, AI라는 이름의 추출기계에 맞서 싸우자

2025년 초부터 챗지피티를 조금씩 쓰기 시작했다. 챗지피티 출시가 2022년 11월이니, 늦어도 한참 늦었다. 참고문헌을 찾으려 할 때 없는 자료를 있는 것처럼 답한다거나, 이미 없어진 가게를 추천해준다거나 하는 일이 있다고 들었지만 너도나도 사용한다 하니 나도 뒤처질 수는 없다 싶었다.

작년 여름 <AI는 인간을 먹고 자란다>를 읽은 후에는 챗지피티 사용에 더 주의를 기울이게 되었다. 특히 단순검색은 되도록 구글과 네이버를 사용하고, 챗지피티는 여러 검색을 통해서 정보를 비교해야 할 경우에 한정하려고 노력한다. AI를 작동시키는 필수 인프라인 데이터센터가 엄청난 물과 전기를 소모한다는 것을 알게 되었기 때문이다. 챗지피티 질문 한 번에 구글 검색 10배의 전기가 소모된다고 하니, 내가 AI툴에 익숙해지기 위해 이런저런 질문을 던지는 것이 지구의 파괴에 동참하는 것처럼 느껴졌다.

얼마 전 플랫폼c 책읽기모임에서 함께 읽은 <AI는 인간을 먹고 자란다>의 미덕은 이런 소소한 개인적 실천을 끌어내는 지식을 전달하는 것을 넘어, AI를 자본, 권력, 천연자원, 인간 노동, 데이터, 집단 지성이라는 요소를 빨아들여 이를 이윤으로 전환하는 장치, 즉 추출기계로 규정하는 구조적 분석을 시도하는 것에 있다. 또한 이 책은 추출기계로서 AI가 만들어내는 모순을 넘어설 수 있는 힘이 그 누구보다 AI시스템을 개발하고 유지하는 노동자 자신에게 있다는 것을 역설한다.

AI는 생각하지 않는다

온 사회가 ‘AI’를 말하고, 생성형 AI 이용 경험률이 빠르게 높아지고 있다고 하지만 AI기술의 원리나 특징이 무엇인지 아는 사람은 그리 많지 않다. <AI는 인간을 먹고 자란다>는 AI를 거의 사용하지 않았거나, 기존에 AI 관련 서적을 읽지 않은 사람에게도 좋은 입문서의 역할을 할 수 있다.

책이 다루는 AI의 기술의 특징 몇 가지를 짚어보자. 먼저 ‘인공지능’이라는 말이 형성하는 이미지와 달리 대규모언어모델(Large Language Model: LLM)에는 “의식적인 사고도 진정한 의미에서의 이해도 존재하지 않는다.”(82) LLM은 방대한 양의 텍스트 데이터를 바탕으로 통계적으로 가장 유의미한, 패턴화된 답을 내놓을 뿐이다. AI ‘환각’, 즉 겉보기에는 맞는 말 같지만 실제로는 거짓 정보를 생산해내는 원인이 바로 여기에 있다. AI는 자신이 생성해낸 텍스트나 문맥의 의미를 이해하지 못한다.

이처럼 데이터를 기반으로 통계적인 답을 내놓는 기술의 특징 때문에 발생할 수 있는 가능성이 바로 ‘반복의 저주’(62)다. ‘반복의 저주’는 챗봇이 생산한 데이터로 훈련한 LLM에서 모델 붕괴가 일어났다는 것을 보고한 논문의 제목이다. 자신이 생산한 데이터로 학습하다 보니 특정 표현과 패턴이 계속 중첩되면서 데이터가 점점 단순화되어 모델 붕괴가 발생한 것이다.

마크 그레이엄(Mark Graham), 제임스 멀둔(James Muldoon), 캘럼 캔트(Callum Cant) 등 이 책의 저자들은 인터넷이 AI가 생성한 콘텐츠로 가득 채워지면 이 문제가 더욱 심각해질 것이라고 말한다. 사실 이런 일은 지금 이미 발생하고 있다. 챗지피티나 제미나이를 사용하지 않고 구글과 네이버 검색을 주로 하는 사람들도 느끼고 있을 것인데, 사람들이 AI를 사용한 콘텐츠를 인터넷에 게시하면서 예전보다 양질의 정보를 찾기 어려워졌다. AI에 유사한 질문을 해도 AI 역시 이러한 인터넷 게시물을 바탕으로 정보를 생산하기 때문에 계속해서 잘못되거나 단순한 정보를 생산하게 되는 것이다.

AI가 인프라, 즉 거대한 데이터 센터와 해저 광케이블, AI 칩과 같은 것들 없이 작동할 수 없다는 점도 중요하다. 거대한 AI 모델을 학습시키려면 “더 넓은 데이터 센터, 더 많은 칩, 더 강력한 슈퍼컴퓨터”가 필요하다(126). 그리고 이를 가동시킬 막대한 전기가 필요하고, 냉각을 위해 대량의 물 역시 필요하다. 이에 비해 고용창출효과는 매우 적다. 데이터센터가 들어선 세계 각지에서 전기요금 인상과 물 부족이 쟁점이 되고 있지만, 한국은 비수도권 지역을 중심으로 데이터센터 유치 경쟁이 한창이다. 막연한 지역 개발 논리가 실제 피해를 입을 지역민들의 숙고와 논의를 뒤로 밀어내고 있는 것이다.

AI기술을 떠받치는 노동

빅테크 기업은 AI기술이 가져다줄 편리한 삶, 낙관적인 미래만을 홍보한다. 저자들은 여기에서 시선을 돌려 AI를 개발하고 유지하는 현재의 노동을 바라보자고 말한다.

<AI는 인간을 먹고 자란다>는 케냐와 우간다의 데이터 주석 및 콘텐츠 검수 센터의 노동자들의 이야기에서 시작한다. 콘텐츠 검수 센터의 노동자들은 충격적인 이미지와 영상을 걸러내는 일을 한다. 책의 머리말, 첫 장에서 등장하는 머시는 자신의 할아버지의 교통사고 영상에 반복적으로 노출되었다. 다른 콘텐츠 검수 노동자들도 폭력적인 영상, 성적으로 충격적인 영상에 매일 같이 노출되는데, 심리적 충격으로 자리를 잠시 벗어나면 생산성 점수가 깎인다. 데이터 주석 노동자들은 AI의 학습 데이터를 만들어내기 위해 데이터를 특정 태그로 분류한다. (한국에서는 ‘디지털 인형 눈 붙이기’로 알려져 있다.) 데이터 주석 노동자들은 빠른 속도로 매우 정확하게 이 작업을 해내야 하며, 성과가 좋지 않으면 바로 일자리를 잃을 수 있는 한두달 짜리 계약노동을 하고 있다.

디지털 기술 발전으로 이들 노동은 더욱 철저히 감시당한다. 감시당하는 대상은 주변부의 데이터 노동자들만이 아니다. 미국의 사무직 노동자들도, 아마존의 물류센터 노동자들과 배송기사들도 모두 감시를 받고 있다. 노동자들은 정해진 속도를 달성하지 못하면, 아니 정해진 속도를 달성해도 다른 노동자들보다 상대적으로 느릴 경우 퇴출의 대상이 된다. 데이터 노동자들을 비롯하여 컴퓨터 앞에 앉아있는 노동자들은 컴퓨터에 설치된 효율성 모니터링 프로그램을 통해, 배송기사들은 운전 습관과 업무 수행 방식을 측정하는 운전자 모니터링 시스템을 통해 실시간으로 감시를 받고 있다. 이런 시스템은 “노동자들의 움직임을 철저히 통제”하며, “이들은 점점 단순한 부속품처럼 취급된다.”(199) 이렇게 “기술 개발로 인한 생산성 향상의 이익이 노동자들이 노동으로부터 자유로워지는 데 쓰이기보다 투자자와 자산 소유자에게” 돌아간다.”(198)

책은 가혹한 노동조건의 데이터 노동자에서 AI윤리를 고민할 시간도 없이 개발경쟁에 내몰린 엔지니어, 극소수의 동료만을 가진 아이슬란드의 데이터센터 노동자, 무심코 사인한 계약서로 인해 자신도 모른 채 AI회사에게 목소리를 도용당한 성우, 아마존의 물류센터 노동자 등의 이야기를 따라가며 정보기술혁명이 변화시킨 노동의 모습을 생생하게 보여준다. AI기술의 확대는 한편에서는 지적 노동의 단순화와 규율화를, 다른 한편에서는 노예에 가까운 취급을 받는 새로운 프롤레타리아화로 이어지고 있다(발리바르, 2024).

• 참고: 에티엔 발리바르. 2024. 정보기술적 재앙에 대하여. 『황해문화』. 2024년 겨울호(통권 125호)

우리에게 필요한 건 노동자들의 이야기

방대한 데이터를 바탕으로 통계적 답변을 내놓는 AI 시스템의 지능은, 노동자들의 산 노동에서 비롯된다. 아마존 물류노동자의 단순한 스캔노동이, 데이터 주석 노동자가 20초에 하나씩 다는 태그 노동이 바로 AI 지능의 재료다. 이처럼 AI는 인간의 노동과 이들이 만들어낸 데이터를 추출해 시스템을 발전시켜 나간다.

그러나 인간은 로봇이 아니며 감시와 통제를 통해 아무리 규격화하려 해도 틈을 만들어낸다. 책의 5장에는 영국 코번트리의 아마존 창고에서 일하는 알렉스의 이야기가 실려있다. 코번트리는 1960~70년대 영국 자동차 산업의 중심지였으나 쇠락한 지역으로, 알렉스는 자동차 인테리어 부품 공장에서 일하다, 현재는 바로 그 공장부지에 들어선 아마존 물류 창고에서 일하게 된 노동자다.

아마존에는 회사의 통제와 감시를 뚫고 생긴 노동조합이 있었지만 알렉스는 노동조합에 바로 가입하지 않는다. 그는 대처 수상 시기에 패배한 노동조합의 기억을, 조합원이었던 아버지의 삶을 통해 기억하고 있다. 그러던 그는 아침마다 대화를 나누던 60대 노동자가 아마존에서 일하게 된 뒤 여가활동을 하거나 가족과의 시간을 보낼 여유조차 빼앗긴 것을 깨닫고 노동조합에 가입한다. 2023년 1월, 코번트리의 아마존 물류 노동자들은 첫 파업을 벌였다. 5장은 파업 중인 알렉스가 다른 노동자에게 말을 거는 것으로 끝난다.

7장에서는 같은 해 5월 1일 출범한 아프리카 콘텐츠 검수원 노조(ACMU)의 이야기가 주를 이룬다. 처음 노동조합을 만들려고 한 노동자가 해고된 가운데, 콘텐츠 검수 노동자들은 힘겨운 노력 끝에 노동조합을 만든다. 저자들은 이 장면을 이렇게 적는다. “이제, 노동자들은 더 이상 혼자가 아니다. 그들은 더 나은 미래를 위해 계속 나아갈 것이다.” (204)

이 책의 미덕은 이 희망찬 문장으로 끝내지 않는 것이다. 저자들은 노동조합의 출범이 끝이 아니라 시작임을, 공급사슬의 끝에 있거나 기업이 적대적 태도를 보이는 곳에서 노동조합이 유지되고 성과를 내는 것이 쉽지 않음을 잘 알고 있다. 책의 마지막에서 저자들은 AI 노동자가 존엄과 존중을 보장받을 수 있는 사회로 나아가기 위한 다음과 같은 다섯 가지 전략을 제안한다. 첫째, 노동조합과 노동자 조직의 집단적 힘 강화, 둘째, 시민사회의 조직적 기업 견제 및 책임 묻기, 셋째, 엄격한 규제 도입, 넷째, 노동자의 기업 소유와 경영 참여 다섯째, 기업을 넘어 전체 시스템과 부정의에 맞서기. 이 여러 전략이 동시에 곳곳에서 시도될 때, 성과로 이어질 수 있다.

영국 코벤트리 물류센터 파업 이후를 검색해 보았다. 노동조합은 노조 인정 투표를 신청했으나 15표 차로 과반을 넘지 못해 단체교섭권을 얻어내지 못했다. 아마존은 노동조합을 파괴하기 위해 추가 인원을 채용하고 노조 활동가들을 내쫓기 위해 탄압을 가하고 있다. 하지만 동시에 코벤트리 파업은 국제적인 조직화로 연결되어, 국경을 넘은 아마존 노동자들의 연대가 이뤄지고 있다.

AI가 가져올 장밋빛 미래에 대한 이야기가 넘쳐난다. 그러나 우리에게 필요한 이야기가 이것일까? AI로 인한 노동강도 강화, AI기술을 떠받치는 저임금의 불안정한 노동, AI가 노동자를 대체할 우려… AI 빅테크가 아니라 일하는 사람의 입장에서 다양한 이야기들이 터져 나오고 흘러넘치게 하자. 노동자들의 이야기들이 엔비디아의 젠슨 황과 삼성 이재용의 이야기를 덮어버릴 때, 비로소 AI가 추출기계가 아니게 될 가능성이 열릴 것이다.

글 : 박상은 | 플랫폼c 회원