조인호의 시민형 AI ① 소버린 AI를 채우는 민주적 장치

---

[편집자 주] 이 연재를 맡은 조인호 박사는 '사회발전은 기술적 발전이 아니라 인간성의 재발견을 통해 이뤄졌다'고 말한다. 인공지능의 급속한 확산과 함께 우리 사회를 '초지능사회, 인공지능사회' 등으로 규정하기에 앞서서, 기술과의 거리 두기가 필요하며, 기술의 사회화를 고민해야 한다고 말한다. [조인호의 시민형 AI]에서는 그가 제안하는 '시민형 AI'에 대한 궁금증을 풀어볼까 한다. 왜 시민형 AI가 필요한지, 시민형 AI의 구성 요소, 기술적 사회적 특징, 풀어야 할 과제, 구현된 사례, 유사한 기술들, 앞으로의 전망을 담고자 한다. 더 궁금한 것은 꼭 댓글로 달아 물어 보자.

2025-07-04 조인호

조인호 포스트에이아이 대표이사

서강대 정치외교학과를 졸업, Michigan State University에서 Telecommunication으로 석사학위를, University of Texas at Austin에서 Communication Studies-Organization Science로 박사학위를 받았다. 2018년부터 오피니언라이브의 공동대표로 자연어처리와 인공지능 학습데이터 구축 지원 사업을 주도했다. AX(AI Transformation)와 개인화 기반의 Virtual Persona를 지향하는 포스트에이아이를 설립했다. 현재 이화여자대학교 신산업융합대학과 한국외국어대학교 미디어커뮤니케이션 학부의 겸임교수이기도 하다.

---

AI가 독립적인 행위자처럼 작동한다

우리가 '후기 정보화 사회'를 넘어 '초지능 사회'로 가고 있다고 이야기한다. 이런 거대 담론을 살펴보면, 인간을 넘어서는 의사 결정 과정에 개입하는 주체로 인공지능(AI)을 자연스럽게 받아들이고 있다. 이 과정에서 AI는 단지 도구로 기능하는 것을 넘어서, 인간의 지식 생산과 사회적 판단에 영향을 미치는 독립적인 행위자처럼 작동하기 시작했다. 특히 거대언어모델(LLM)의 발전은 이 같은 흐름을 가속화하면서, 기술을 둘러싼 지식 권력의 구도가 재편되고 있다.

각국은 자국 내 데이터와 AI 기술의 독립성과 자율성을 확보하려고 한다

이러한 흐름 속에서 전 세계는 자연스럽게 인공지능 주권(소버린 AI, Sovereign AI)이라는 화두에 주목하게 되었다. 특히 미국 기반의 빅테크 기업들이 주도하는 LLM의 압도적인 기술력과 시장 장악력이 부상하면서, 각국은 자국 내 데이터와 AI 기술의 독립성과 자율성을 확보하려는 움직임을 강화하고 있다. 이른바 '소버린 AI'는 약한 형태에서는 기술 기반의 자립, 강한 형태에서는 데이터 생산·저장·활용의 통제까지 포함하며, 국가가 정보 주권을 행사하려는 다양한 시도들을 포괄한다.

국가 주도 AI가 시민사회의 다양성과 자율성을 억제할 수도 있다

하지만 여기에는 중대한 사유의 과제가 놓여 있다. 바로 ‘AI 주권’이 누구를 위한 것이며, 어떤 사회적 가치를 반영 혹은 지향하고자 하는지를 묻는 것이다. 국가 주도의 AI가 기술적 독립성을 추구하면서도, 기존의 위계적 지식 질서와 담론을 그대로 재현하거나, 오히려 시민사회의 다양성과 표현의 자율성을 억제하는 방향으로 작동한다면 그것은 기술적 독립이라기보다 지식의 획일화일 수 있다.

시민형 AI는 '시민이 참여하는 구조'를 기술적으로 구체화한 모델

여기에 시민형 AI의 역할이 존재한다. 시민형 AI는 소버린 AI와 대립되는 개념이 아니라, 오히려 소버린 AI의 민주적 정당성을 보완하고 사회적 수용성과 표현의 다양성을 확보하는 장치로 작동할 수 있다. 다시 말해, 국가의 기술 주권이 실제로 국민의 권리와 표현의 자유를 강화하는 방향으로 구현되기 위해서는, 시민이 참여하는 구조가 반드시 필요하다. 시민형 AI는 그러한 참여의 구조를 기술적으로 구체화하는 하나의 모델이다.

시민마다의 데이터에 기반한 개별 페르소나 AI들이 숙의하고 조율하는 플랫폼

시민형 AI는 단순히 ‘시민의 데이터를 기반으로 한 AI’를 의미하지 않는다. 이는 특정 이슈에 대해 충분히 숙지된 시민들이 자신의 인식과 감정, 가치 판단을 데이터로 제공하고, 이를 통해 개별적인 페르소나 AI가 구성되며, 이 페르소나들이 상호작용하고 숙의하는 과정을 통해 공론이 형성되는 플랫폼이다. 이는 단일한 정답을 제공하기보다는, 복수의 가치와 관점이 충돌하고 조율되는 민주적 알고리즘 공간을 구성하려는 시도라 할 수 있다.

국가 주도의 '소버린 AI'와 '시민형 AI'의 결합

이런 측면에서, 국가 주도의 소버린 AI는 시민형 AI와의 결합을 통해 기술적 역량과 민주적 참여를 동시에 실현할 수 있다. 구체적으로, 소버린 AI는 인프라(모델 설계, 데이터 주권, AI 반도체 등)를 국가가 제공하고, 시민형 AI는 그 위에서 작동하는 민주적 알고리즘 구조를 담당함으로써, 기술 주권과 지식 주권이 조화를 이루는 새로운 모델로 확장될 수 있다.

기술의 국산화가 아니라, 기술의 사회화

예를 들어, 환경정책에 관한 AI 페르소나 플랫폼을 국가적 소버린 AI 인프라 위에 구축하되, 시민의 참여와 피드백을 통해 지속적으로 학습하고 현행화되는 구조로 설계할 수 있다. 이때 시민은 단순한 소비자가 아니라, 공공적 기술 구조의 공동 설계자이며, AI의 인식 편향과 서사 재현의 구조를 비판적으로 감시하고 조정하는 능동적 주체가 된다. 결과적으로 이는 기술의 국산화가 아니라, 기술의 사회화에 가까운 모델로 귀결된다.

도전 과제들

물론 이러한 결합은 이상적 구조일 뿐 실제로 구현하는 데에는 많은 도전이 따른다. 시민 참여의 지속가능성, 데이터의 대표성 확보, 페르소나의 다양성 유지, 기술 편향 제거 등은 모두 해결해야 할 과제이다. 이는 기술적 한계가 아니라, 기술을 둘러싼 사회적 구성의 방식에 대한 질문이며, 민주주의를 정보기술과 연결하는 새로운 시도에 필요한 전제다.

시민형 AI는 기술이 사회를 재구성할 때 그 구조를 민주적으로 조직하는 상상력

우리는 AI를 둘러싼 지식 권력의 재편과 민주적 통제라는 두 개의 축을 동시에 사유해야 하는 시대에 살고 있다. 기술은 더 이상 중립적인 도구가 아니라, 사회를 재구성하는 구조이기 때문이다. 시민형 AI는 바로 그 구조를 민주적으로 조직하기 위한 하나의 철학적·정치적 상상력이다. 소버린 AI가 기술 주권의 기반을 세운다면, 시민형 AI는 그 기반 위에 민주적 지식 질서라는 집을 지어 올린다.

기술의 독점이 아니라, 기술의 공공성에 대한 상상력이 필요하다

시민형 AI는 소버린 AI에 대한 비판적 대안이기보다는, 그 안을 채우는 민주적 장치다. 기술 주권과 표현 주권, 데이터 인프라와 공론장의 구조가 함께 구성되어야만 진정한 AI 민주주의가 가능하다. 이제 필요한 것은 기술의 독점이 아니라, 기술의 공공성에 대한 상상력이며, 시민형 AI는 그 상상력을 실천의 장으로 전환시키는 하나의 출발점이 될 수 있다.