기획 | 국민주권정부, '시민형 AI'가 실현한다
- Theodore
- 6월 6일
- 8분 분량
2025-06-05 최민욱 기자
2025년 6월 4일, 이재명 대통령은 취임사에서 “국민과 소통하며 국민의 주권의지가 일상적으로 국정에 반영되는 진정한 민주공화국”을 만들겠다는 선서를 했다. 한때 최선이라고 여겨졌던 대의민주주의 체제는 주권을 이양한 국민들로부터 신뢰를 잃고 있다. 이에 직접민주주의가 가능한 미래로 보이는 추첨제 숙의민주주의가 그 실험대에 올랐다. 숙의민주주의는 시민의 직접적인 의견을 반영하는 것을 통해 소수의 권력집단에 얽매이지 않은 결정과 안을 이끌어 낸다. 참여자의 전문성과 시간, 효율성 측면에서 한계가 있으나, 공정하게 구성된 시민 참여 집단이 충분한 정보를 바탕으로 숙의하는 과정을 거칠 경우, 기존 정치기구보다 높은 수준의 합리적·공익적 결정을 도출할 수 있다는 평가도 있다. 그 실험의 대표적인 결과가 프랑스 파리의 ‘시민기후협약’이다. 기술의 발전은 숙의민주주의의 한계로 지목된 정보 접근의 불균형, 시민들의 시간적 제약, 숙의 과정의 비용 문제를 극복할 단초를 제공하고 있다. 특히 디지털 플랫폼을 통한 참여 확장과 시뮬레이션 기반 정책 토론, AI 기반 정보 요약과 의견 조정 기능은 숙의의 질과 효율을 동시에 높일 수 있는 가능성을 보여 준다.
디지털 공론장, 온라인 숙의의 명암
정보기술의 발달로 디지털 민주주의에 대한 기대가 높아지면서, 인터넷을 통한 시민 참여 실험이 세계 각지에서 진행되었다. 한국의 청와대 국민청원처럼 정부에 온라인 청원을 제출해 일정 동의를 얻으면 공식 답변을 듣는 제도가 등장했고, 스페인 바르셀로나에서는 오픈소스 플랫폼 Decidim을 도입해 시민들이 예산 사용처나 정책 아이디어를 제안·토론·투표할 수 있게 했다. 대만의 vTaiwan은 공공정책 입안을 위해 온라인 토론과 오프라인 회의를 결합한 모델로 주목받았다. 이러한 플랫폼 기반 숙의 실험들은 물리적 한계를 넘어 더 많은 시민의 의견을 수렴하려는 시도로 평가된다. 특히 Decidim 플랫폼의 경우 접근성과 편의성을 높여 다양한 연령·지역의 시민 참여를 이끌어 냈으며, 행정에 참여 예산제와 같은 직접 민주주의 요소를 접목시켰다.
온라인 공간이 늘 이상적인 공론장이 된 것은 아니다. 인터넷은 오히려 새로운 민의의 편향 문제를 드러냈다. 익명성이 보장된 온라인 토론에서는 책임감이 떨어지는 발언이나 감정적 대립이 나타나 토론의 질이 저하된다는 지적이 있다. 한쪽 입장에 동조하는 사람들끼리 모여드는 에코 챔버 현상으로 다양한 관점의 교류 없이 의견이 한쪽으로 쏠릴 위험도 커졌다. 실제로 알고리즘은 이용자가 선호하는 콘텐츠를 반복적으로 추천해 정보 분절화를 부추기고, 온라인에서는 특정 커뮤니티의 여론이 전체 여론인 양 과장되기도 한다. 익명 게시판이나 SNS에서 일부 목소리가 과대 대표되면서 자극적 의제가 부각되고, 정치 담론이 파편화되는 부작용이 곳곳에서 관찰됐다. 무분별하게 확산되는 가짜뉴스와 왜곡 정보 역시 디지털 민주주의의 건전한 작동을 위협하는 요소다.
예컨대 대만의 vTaiwan 사례에서도 온라인 여론이 조직적으로 동원되거나 극단적인 주장이 부각되면서 합리적 합의 도출에 어려움을 겪은 바 있다는 평가가 있다. 요컨대 디지털 환경에서의 숙의 실험은 참여 기회를 확대했지만, 익명성에 따른 책임 부재, 의견 쏠림, 거짓 정보 유통 같은 새로운 문제를 함께 드러냈다.
디지털 공론장의 한계, 대표성과 알고리즘의 문제
디지털 공론장의 경험은 민주주의에 새로운 도전과 과제를 제시한다. 우선 인터넷 참여자와 일반 국민 사이의 디지털 격차가 공론장의 대표성 부족으로 이어질 수 있다. 온라인 토론에는 주로 젊고 매체 활용 능력이 높은 계층이 몰리는 반면, 고령자나 소외계층은 목소리를 내기 어려워 참여 편중이 나타날 위험이 있다.
전 세계적으로도 영어권 등 일부 집단의 관점이 인터넷 담론에서 과도하게 부각되는 반면, 디지털 인프라가 열악한 지역 주민들은 논의에서 배제되기 쉽다는 지적이다. 또한 거대 플랫폼의 알고리즘 편향 문제가 공론장에 영향을 미친다. 소셜미디어는 이용자들의 관심을 끌기 위해 선정적이고 분노를 유발하는 콘텐츠를 우선 노출하는 경향이 있고, 이는 냉정한 숙의보다는 감정적 여론을 증폭시키는 결과를 낳는다. 이용자들은 자신의 신념과 맞는 정보만 골라보는 확증 편향에 빠지기 쉽고, 반대 의견을 접할 기회는 줄어든다. 이런 환경에서는 사실에 근거한 합리적 토론보다는 분극화된 여론전이 벌어지기 쉽다는 우려가 꾸준히 제기되어 왔다.
토론 문화의 질적 저하 역시 중요한 과제다. 온라인에서는 얼굴을 마주 보지 않는 특성상 상대에 대한 공감과 예의가 결여되기 쉽고, 혐오 표현이나 인신공격이 난무하는 경우도 적지 않다. 이러한 현상은 민주적 토론의 기본 전제인 상호 존중을 약화시키고, 건설적인 합의를 어렵게 만드는 요인으로 지목된다. 실제 연구에서도 인터넷상의 익명 대화가 인간의 비인간화를 촉진하고 타 집단에 대한 적대감을 키울 수 있다는 결과가 보고된다.
나아가 잘못된 정보의 범람은 시민들이 사실 기반의 판단을 내리기 어렵게 만들어 민주주의를 근본에서 위협한다. 허위정보는 공동체 내 신뢰를 깨뜨리고 사회적 분열을 심화시키는 악영향을 미치는데, 디지털 환경은 이러한 거짓 콘텐츠가 빠르게 증폭·확산되는 토양을 제공한다. 결국 디지털 시대의 공론장에서는 대표성 부족, 알고리즘의 왜곡, 숙의의 질 저하라는 삼중의 한계를 직시할 필요가 있다. 각국 사회는 이를 보완하기 위해 새로운 규범과 기술적 보완책을 모색 중이다.
민간 플랫폼의 정보 신뢰성 확보 노력
디지털 민주주의의 건강성을 높이기 위해 글로벌 IT 기업들도 정보 검증과 콘텐츠 품질 관리에 나서기 시작했다. 세계 최대 소셜미디어 기업 Meta(페이스북)는 허위 정보 확산을 억제하기 위해 외부 전문기관과 제휴한 제3자 팩트체크 프로그램을 여러 국가에서 운영해 왔다. 한국에서도 2018년부터 언론사가 참여하는 팩트체크 제도를 도입해 거짓 정보로 판정된 게시물에 경고 라벨을 붙이거나 노출 순위를 낮추는 조치를 취해 왔다.
국내 포털사 네이버는 자체 뉴스 서비스에 팩트체크 표시를 강화해, 언론사들이 검증한 사실 여부를 기사 하단에 명기하거나 관련 사실 검증보고서를 검색 결과에 노출하는 방안을 시행했다. 네이버가 서울대 언론정보연구소와 협력하여 운영 했던 ‘SNU 팩트체크’에는 30여 개 언론사가 참여해 주요 이슈의 사실관계를 ‘전혀 사실 아님’부터 ‘사실’까지 6단계로 평가했다. 이처럼 포털은 가짜뉴스로 인한 이용자 피해를 줄이기 위해 신뢰도 지표를 제공하고 검증 콘텐츠 접근성을 높이는 노력을 하고있다.
소셜미디어 X(옛 트위터)는 이용자들이 자발적으로 사실 확인 노트를 추가할 수 있는 커뮤니티 노트 기능을 2022년 말 도입했다. 이는 플랫폼 주도의 검열을 최소화하면서 집단지성을 활용하겠다는 취지로 도입되었으나, 도리어 이후에도 거짓 정보 유통이 눈에 띄게 줄어들지 않아 실효성 논란이 이어지고 있다. 한편 유튜브 등 일부 플랫폼은 사실상 뚜렷한 팩트체크 장치를 마련하지 않아 비판을 받는다.
최근 메타는 “검열이 지나치다”는 이유로 페이스북의 공식 팩트체크 기능 폐지를 결정해 논란을 일으켰다. 전문가들은 주요 플랫폼들이 허위정보 대응에 소극적으로 돌아설 경우, 장기적으로 플랫폼 자체의 신뢰성도 타격을 받을 수 있다고 경고한다. 실제로 한국언론진흥재단 조사에 따르면 국민 대다수가 뉴스를 포털과 SNS로 접하는 상황에서, 플랫폼이 부정확한 정보에 별다른 조치를 취하지 않으면 여론 형성의 토대가 흔들릴 수 있다는 지적이다.
이에 따라 여러 나라에서 플랫폼의 투명성 강화와 알고리즘 공개, 팩트체크 의무화 등을 요구하는 규제가 논의되고 있다. 궁극적으로는 기업의 기술 대응과 더불어 시민들의 디지털 리터러시 함양, 독립 검증기관의 역할 확대 등 정보 생태계 전반의 노력이 병행되어야 지속적인 효과를 거둘 수 있다는 견해가 많다.
AI 기술의 접목은 숙의민주주의에 새로운 기회가 될 것인가
최근에는 생성형 AI와 빅데이터 분석 기술이 민주적 숙의 과정에 도입되며 변화를 모색하고 있다. 대규모 언어모델(LLM) 등의 AI를 활용하면 숙의 과정에서 방대한 정보를 요약·정리하고 토론을 지원하는 것이 가능해진다. 가령 AI의 자연어 처리 기능으로 시민들이 제시한 수많은 의견을 자동으로 분류·요약하면 중복 논점을 줄이고 핵심 쟁점을 부각시켜 토론의 효율성을 높일 수 있다.
실제로 AI는 수백 명이 참여하는 대화에서도 실시간으로 의견 지형을 시각화하고, 주요 찬반 논리를 중립적으로 정리해 참가자들의 이해를 돕는 도구로 활용될 수 있다. 또한 AI 기반 자동 번역 기술은 다국어 토론에서도 언어 장벽을 낮춰 주어, 글로벌 의제를 숙의할 때 더 포용적인 참여를 끌어낼 수 있다는 기대가 나온다.
더 나아가 AI는 정책 결정 과정에 과학적 시뮬레이션을 접목해 숙의의 깊이를 더해 줄 수 있다. 예컨대 기후정책을 논의할 때 디지털 트윈 기술로 특정 정책을 시행했을 경우의 사회·환경 영향을 가상 모의해 보는 것이다. 프랑스 기후시민회의에서 참여자들이 탄소 감축 목표의 현실성을 가늠하기 어려워했던 한계를 돌아볼 때, 이런 실시간 시뮬레이션은 시민들이 증거 기반 판단을 내리는 데 큰 도움을 줄 수 있다.
AI가 복잡한 수리 모델을 통해 정책 결과를 예측·시각화해 제시하면 숙의 과정은 보다 사실 중심으로 진화하고, 의사결정의 신속성도 향상될 수 있다는 분석이다. 실제 연구에서도 AI가 참여자들의 다양한 관점을 구조화하고 갈등 지점을 조율해 합의 도출을 돕는 잠재력이 확인되고 있다. 이처럼 AI 기술은 정보제공자·중재자 역할을 수행하며 대규모 숙의를 뒷받침하는 “디지털 조력자”로 기능할 수 있다.
흥미로운 시도 중 하나는 AI로 시민의 의견을 학습시켜 가상의 토론 참여자를 만드는 실험이다. 이른바 “휴먼클론”은 실제 시민들의 설문 데이터와 발언을 AI 모델에 학습시켜, 마치 그 시민들이 계속 토론에 임하는 것처럼 반응을 생성하는 기술이다. 예컨대 여러 분야 국민으로 구성된 디지털 시민의회를 AI 에이전트들로 구현하면, 일상적으로 대규모 여론수렴을 시뮬레이션해 볼 수 있다는 발상이다.
최근 연구에서는 환경정책에 관한 질문에 AI 휴먼클론들이 실제 시민들과 유사한 응답 경향을 보이고, 전문가들도 그 합리성을 일정 부분 인정한 결과가 발표되기도 했다. 이러한 기술이 발전하면 현실에서 모든 시민을 한자리에 모으지 않고도 “디지털 시민 쌍둥이”들을 통해 다양한 이해관계자의 의견을 미리 조율하거나 정책아이디어를 시험해 볼 가능성도 열린다.
다만 AI가 민의를 완벽히 대변할 수 있는지는 아직 연구 초기 단계여서, 윤리적 검토와 신뢰 확보가 선행과제로 남아 있다. 그럼에도 AI의 요약·번역·모의실험 기능이 숙의민주주의의 기존 약점을 보완하고, 참여자들에게 정보과부하 없이 숙의에 집중할 수 있는 환경을 제공할 수 있다는 점은 긍정적인 변화로 평가된다. 기술을 제대로 활용한다면 더 많은 시민이 더 깊이 있는 토론에 참여해 숙의민주주의의 스케일 업이 가능할 것이라는 전망이 조심스럽게 제기되고 있다.
시민기술(Civic Tech)과 ‘시민형 AI’, 시민이 이용하는 기술에서 시민이 주도하는 기술로
디지털 기술을 행정과 시민 참여에 접목하려는 움직임은 예전부터 Civic Tech라는 이름으로 존재해왔다. Civic Tech는 문자 그대로 시민을 위한 기술로, 전자투표, 온라인 행정서비스, 참여형 앱 등 시민 생활 편의를 높이는 기술 전반을 가리킨다. 정부와 시민 간 소통을 강화하고 의사결정을 투명하게 만드는 정보통신기술이 모두 이 범주에 포함된다.
예컨대 버스 도착 정보를 제공하는 공공 앱이나 도시 문제 제보 플랫폼, 지역 예산편성에 시민 의견을 수렴하는 웹사이트 등이 대표적인 Civic Tech 사례다. 이러한 기술들은 주로 정부 주도로 개발·운영되며, 시민 참여를 높인다기보다 행정 서비스를 개선하는 데 초점을 맞춰 왔다. 기존 Civic Tech는 편리하고 효율적인 도구를 제공함으로써 “시민 체감 만족도”를 높이는 데 기여했지만, 정작 시민이 의사결정의 주체로 깊숙이 관여하도록 만드는 데에는 한계가 있었다는 평가가 있다. 다시 말해 지금까지의 Civic Tech가 민주주의의 절차적 편의를 높이는 수준에 머물렀다면, 최근 대두되는 새로운 담론은 기술을 통해 시민 주권을 실현하는 보다 진일보한 접근에 주목하고 있다.
‘시민형 AI’는 그 연장선에서 등장한 개념라고 볼 수 있다. 시민형 AI는 단순히 기술을 더 윤리적으로 쓰자는 구호나, 인간적 감성을 지닌 AI를 만들자는 뜻이 아니다. 핵심은 AI의 설계와 학습 구조에 시민이 개입할 수 있도록 하자는 실천적인 기획에 있다.
예를 들어 오늘날 거대 AI 모델의 개발은 소수 기업과 자본에 집중되어 있고, 방대한 데이터 수집도 주로 플랫폼 기업이 주도하지만, 시민형 AI는 그러한 구조를 바꾸어 데이터 주권을 개인에게 돌리는 것을 중요하게 생각한다. 한 개인이 AI에 질문을 던져 얻은 생성 정보는 그 기여한 개인의 자산으로 봐야 하며, 궁극적으로 각 개인이 자신만의 AI를 소유·통제하는 “퍼스널 AI” 시대를 지향해야 한다는 철학이다.
이를 위해서는 AI 개발 단계부터 일반 시민들이 참여해 모델의 목표와 가치를 설정하고, 다양한 사회 구성원의 관점을 학습 데이터에 반영하는 노력이 필요하다고 전문가들은 말한다. 다시 말해 기술의 언어를 시민들이 이해하고 비판적으로 점검하면서, 직접 AI의 진화 방향을 결정하는 민주적 개입이 이뤄져야 한다는 것이다. 이러한 구상은 AI를 시민주권 실현의 도구로 바라본다는 점에서, 행정 편의를 높이는 수준에 머문 기존 Civic Tech와 차별화된다.
물론 시민형 AI는 아직 개념이 완전히 정립되지 않은 새로운 담론이다. 학계와 시민사회 일각에서만 논의가 시작된 신조어로, 관련 프로젝트들이 이제 막 제안되는 단계다. 그럼에도 이 개념이 주목받는 이유는, AI 시대에 시민이 철저히 객체가 아닌 주체로 거듭나지 않으면 민주주의 가치가 훼손될 수 있다는 위기감 때문이다.
실제로 전 세계적으로 AI 기술은 선거 여론조작, 가짜뉴스 양산, 감시 강화 등 민주주의에 부정적 영향을 미칠 수 있다는 우려가 높다. 이에 대응하려면 시민이 AI 기술의 흐름을 이해하고 직접 윤리적 기준을 세우며, 나아가 커뮤니티 주도형 AI 시스템을 구축하는 방향으로 나아가야 한다는 목소리가 나온다. 예를 들어 다중 페르소나를 활용한 플랫폼 숙의 AI나, 시민 참여로 AI 모델을 튜닝하는 방법 등이 제시되고 있는데, 이는 기술과 민주주의가 새로운 관계를 맺는 구체적 방안으로 거론된다.
Civic Tech가 정부와 시민을 연결하는 기술이었다면, 시민형 AI는 한 걸음 더 나아가 시민이 기술의 의사결정권자가 되는 것을 목표로 한다. 기술 발달의 방향성이 시민의 집단지성과 공익적 가치에 의해 좌우되는 환경을 만들겠다는 구상이다. 결국 시민형 AI는 “기술을 통한 시민권 강화”라는 큰 그림 아래, 기존 Civic Tech의 한계를 보완하고 민주주의의 새로운 지평을 열어갈 수 있을지 그 가능성이 시험대에 오르고 있다.
기자수첩 | 이재명 정부의 AI 정책 방향 분석
AI 투자 100조 원 공약… “기술로 기본사회 실현”
이재명 대통령은 선거 출마 당시 첫 공식 일정으로 인공지능(AI) 정책을 발표해 주목을 받았다. 총 100조 원 규모의 AI 투자 계획을 제시해 논란을 가져오기도 했다. 당시 이재명 대통령은 “AI를 통해 생산성을 높이고 노동시간을 줄여 워라밸이 보장되는 ‘AI 기본사회’를 만들겠다”며, 기술 기반의 복지국가 모델을 비전으로 제시했다.
AI를 ‘K-이니셔티브’의 핵심 축(K-AI)으로 정의하며, △GPU 5만 개 이상 확보, △AI 전용 NPU 개발, △AI 데이터 클러스터 조성, △AI 규제 완화 및 특구 확대 등 국가 차원의 AI 인프라 및 제도 정비 계획을 제시했다. 대통령 직속의 ‘국가인공지능위원회’를 강화해 범정부적 전략 추진 체계를 구축하겠다고도 했다. AI를 통한 산업구조 전환과 일자리 창출을 통해 ‘잘사니즘’을 실현하겠다는 구상 속에서 “가장 중요한 문제는 결국 국민의 먹고사는 문제”라며, AI 기술이 경제적 희망과 사회적 안전망을 동시에 제공할 수 있는 열쇠라고 말했다.
AI 100조 투자·세계 3대 강국 도약… 산업 생태계 전방위 확대
정부 출범 후, 6월 6일 삼일PwC 경영연구원이 발표한 ‘이재명 정부 경제정책 방향’ 보고서에 따르면, 정부는 총 100조 원 규모의 민간 투자를 유도해 AI 산업 생태계를 확장하고, 고성능 GPU(그래픽처리장치) 5만 개 확보와 전용 NPU(신경망처리장치) 개발을 병행 추진할 계획이다.
보고서는 “새 정부는 AI 생태계를 조성하는 동시에 초거대 AI 기술 대중화를 통해 산업 전반의 디지털 전환을 가속화할 것”이라며 “국가 데이터 클러스터 구축, AI 고속도로 인프라 조성 등 전국 단위 인프라 투자도 동시 추진된다”고 밝혔다.
정부는 또한 ‘모두의 AI 프로젝트’를 통해 생성형 AI 기반 공공 서비스를 전국민에게 무료로 제공하는 방안을 검토 중이다. AI 기반 의료, 금융, 재난 예측 시스템을 포함해 사회 전반에 AI를 적용하는 ‘AI 기본사회’ 구현도 추진 과제로 명시됐다.
이재명 대통령은 대선 당시부터 “AI는 단지 기술이 아니라, 국민 삶의 질을 바꾸는 게임 체인저”라고 강조해왔다. 실제로 새 정부는 AI를 반도체, 방위산업, 콘텐츠, 재생에너지 등 전략 산업과 결합해 미래 성장동력으로 삼겠다는 구상을 구체화하고 있다.
보고서는 “AI가 단일 기술을 넘어 산업, 교육, 에너지, 복지 등 전 방위에 적용되는 구조로 설계되어 있다”며 “국가 차원의 전력망, 데이터 인프라, GPU 확보를 위한 에너지 수급 전략 등 종합적 대응이 필요하다”고 분석했다.
이와 함께 정부는 AI 산업 활성화를 위한 법·제도 정비, 규제 특례 적용, AI 특구 확대 등도 병행해 추진할 방침이다.
한편 삼일PwC는 “현재 한국의 AI 기술력은 미국 대비 20% 수준에 그치고 있으며, 인재 양성, 민간 투자 확대, 글로벌 협력 등이 핵심 과제로 떠오르고 있다”고 지적했다.
국민주권은 데이터주권을 전제로 하는구요