지오북ㅣAI 시대에는 새로운 자본론이 필요하다

2025-10-10 박옥균 객원기자

---

오늘날 AI 시대 소비자를 ‘블라인드 프로슈머’로 부를 수 있다. 소비자의 정보가 데이터로 분해되어 눈에 보이지 않기 때문이다. 『AI는 인간을 먹고 자란다』에서는 AI가 인간의 노동, 창의성, 감정을 빨아들이고, 개별적 행동을 추적해 통제한다고 말한다. ‘창업자 중심의 사고방식’이 확산되고 있으며, AI는 새로운 식민 지배 체제의 수단이 될 우려가 있다.

박옥균 리더스가이드 대표

독자의 길라잡이라는 뜻의 리더스가이드를 운영하며, 이곳에서 책을 만들고, 소개하고, 파는 일을 하고 있다. 서울대학교 물리교육과에서 ‘과학’과 ‘교육’을 공부했다. 중학교에서 3년 동안 과학을 가르쳤고, PC 통신 ‘하이텔’에서 엔지니어로 일했다. 2002년부터 ‘리더스가이드’를 창립해 도서 정보 플랫폼을 운영하고 있으며, 2013년부터 빅데이터 관련 기술을 공부하면서 도서 7만여 종에 대해 빅데이터 작업을 진행했다. 빅데이터 관련 특허 두 건(‘도서 관리 시스템 및 도서 관리 방법’, ‘집단 지능을 이용한 상품 검증 방법’)을 등록했고, 데이터 교육과 관련한 자문과 최신 흐름에 대한 컨설팅을 하고 있다. 지은 책으로는 이전에 쓴 책으로는 『수학은 스토리다』(2023), 『지속 가능한 세상을 위한 데이터 이야기』(2022)가 있다.

블로그 리더스가이드 / 홈페이지 www.readersguide.co.kr / 서점 알지책방

---

지브리 이미지 반전: '블라인드 프로슈머'의 탄생

최근 너도나도 프로필 이미지를 스튜디오 지브리 스타일 애니메이션 풍으로 바꾸는 현상이 나타났다. <센과 치히로> 등 지브리 애니메이션을 본 사람이라면 누구나 반길 만한 일이며, 사진만 제공하면 AI가 금방 만드니 더욱 환영받았다. 지브리가 저작권 문제를 제기하지 않아 모두가 큰 선물을 받은 듯했지만, 많은 동화가 그러하듯 여기에 반전이 숨어 있다. 오픈AI와 같은 기업은 인터넷에 떠도는 텍스트를 무료로 활용해 왔지만, 초상권이 있는 이미지는 큰 문제를 일으킬 수 있다. 하지만 사용자가 자발적으로 이미지를 제공한다면 이야기가 달라진다. 우리가 기꺼이 자신의 사진을 AI가 마음껏 가공하도록 제공한 셈이다. AI 상업주의는 데이터로 만들어 활용되기 때문에 그 실체가 쉽게 눈에 띄지 않는다.

1970년대 미래학자 앨빈 토플러는 『미래의 충격』에서 정보기술 시대의 소비자를 '프러슈머'(생산자 producer와 소비자 consumer의 결합)라 칭했다. 정보의 소비자가 정보를 생산하기도 한다는 의미였다. 하지만 오늘날 AI 시대에 이 표현을 적용한다면 '블라인드(blind) 프로슈머'가 더 적합할 듯하다. 우리가 소비를 통해 제공하는 정보들이 예전과 달리 데이터로 분해되어 활용되기 때문에 그 과정이 눈에 보이지 않기 때문이다. 예를 들어, 자발적으로 이미지 생성을 위해 올린 사진들이 '한국인의 얼굴 유형'이나 '감정에 따른 표정' 같은 데이터로 변환, 저장, 가공되지만 정작 우리는 그 사실을 알지 못한다. 우리는 생산에 참여했으나, 그 생산물이 분해되어 자신의 소유권이나 권리가 쉽게 넘어가는 것을 모른 채 '블라인드 프로슈머'가 되어 버리는 것이다.

마크 그레이엄, 제임스 멀둔, 캘럼 캔트 지음, 김두완 옮김, 『AI는 인간을 먹고 자란다』, 흐름출판, 2025.05

AI 성장 동력의 이면: '추출 기계'와 보이지 않는 노동

AI 이용자들로부터 얻는 정보나 데이터를 가공해 새로운 정보를 생산하는 과정에는 엄청난 노동이 들어간다. 옥스퍼드대학교 인터넷연구소 연구진이 집필한 책 『AI는 인간을 먹고 자란다』(흐름출판)는 빅테크 기업의 이름과 서비스 명 뒤에서 AI가 실제로 어떻게 작동하는지를 보여 준다. 10년간 30여 개국을 조사한 저자들은 AI를 인간의 노동, 창의성, 감정까지 빨아들이는 '추출 기계'라고 표현한다. 이 책은 데이터 주석자, 콘텐츠 검수자, 물류 노동자 등 수많은 보이지 않는 이들의 노동을 AI가 어떻게 '추출'하고 있는지 생생한 사례를 통해 보여 준다.

디지털 노동의 소외: 감시와 비숙련화

과거 『자본론』에서 노동자들이 '생산 수단'으로부터 소외된다고 했다면, AI 시대에 참여하는 노동자들은 자신이 사용하는 수단뿐만 아니라 '정보' 또는 '데이터'에서도 소외된다. 과거에는 경영자나 관리자의 감시나 컨베이어벨트로 노동을 강제했다면, 이제는 AI가 개별적인 행동을 추적하고 통제한다. 마르크스의 『자본론』은 생산력이 고도화될수록 여가 시간이 늘어날 수 있다고 예측했지만, AI 관련 노동자들은 오히려 더 척박한 업무 통제를 받고 있다. 노동자들은 일종의 알고리즘처럼 시스템에 맞춰진 존재로 취급되며, 모든 작업이 표준화되고 자동화된 환경에서 수행된다. 이러한 '반복적인 업무 설계'는 노동자들을 점차 비숙련화시켜서, 결과적으로 다른 직군으로 이동하기 어렵게 만든다.

'창업자 중심 사고방식'과 기술 독점

AI 발전의 주요 동력은 글로벌 자본주의 경제 속에서 경쟁하는 대형 기술 기업들이다. 초창기 실리콘밸리를 이끈 사람들은 기술과 정보의 확산이 부의 창출과 인간의 자유를 증진할 것이라는 믿음을 가졌다. 하지만 2010년대 들어 새로운 감시 시스템, 기술 독점, 알고리즘 차별 문제가 분명해지면서 상황이 달라졌다.

정치적으로는 다양한 스펙트럼을 가짐에도 '창업자 중심의 사고방식'이라는 믿음은 공통된다. 민주주의보다는 시장을, 공공 지출보다는 기업과 자선 활동을, 그리고 법적 규제보다는 자율규제를 더 신뢰한다. 예를 들어 메타의 마크 저커버그는 인종적 다양성을 위해 기부하지만, 자신이 메타의 결정권 60%를 단독으로 가지고 있는 것을 문제시하지는 않는다. 그는 수십억 명이 사용하는 서비스임에도 불구하고 이를 다양한 이해관계가 충돌하는 복잡한 정치 공간으로 보지 않는다. 오히려 세상은 해결이 가능한 기술적 문제로 가득 차 있으며, 자신과 같은 똑똑한 사람들이 해결할 수 있다고 믿는 것으로 보인다.

AI와 새로운 식민 지배 체제의 위험

AI는 과거 새로운 식민 지배에 가까운 체제의 수단이 될 수도 있다. 첨단 하이테크 국가들은 주변부 국가들로부터 노동력, 핵심 광물, 데이터를 수탈하며 자신들의 부와 권력을 유지할 수 있다. 과거 식민 제국의 항로와 전신 케이블이 지나던 경로와 네트워크처럼, 물리적으로 비슷한 부분이 많다. 고도로 훈련된 엔지니어들은 높은 임금과 안전한 환경에서 일하지만, 단순하고 저임금의 업무는 노동 규제가 느슨하고 임금이 싼 저개발국가로 아웃소싱된다. 이는 과거 식민주의가 만든 불평등한 발전 모델과 본질적으로 다르지 않다.

‘기술로부터의 자유’를 위한 근본적인 질문과 새로운 대안 모색

AI가 새로운 자본주의 체제를 만들고 있다는 것은 시간이 갈수록 분명하다. 급속도로 인간을 대체하며 생겨나는 유휴 인력을 값싸고 고통스러운 네트워크 노동으로 몰아넣고 있다. 국가 간 격차가 커지면서 식민지화할 가능성도 함께 커질 것이다. AI 시대의 변화 속도에 비하면 윤리, 정치, 경제 등의 관점에서 우리의 대응은 매우 느리다. 더 늦기 전에 "이 기술이 누구를 위한 것인가?"라는 근본적인 질문을 던져야 할 때이다. 새로운 상상력을 가진 대안을 모색하고, 연대하며 함께 AI 시대를 대비할 법과 제도를 마련할 필요가 있다.