'시민형 AI'는 기술이 아니라 ‘절차적 정의’를 구현하는 새로운 사회적 장치
- sungmi park
- 6월 6일
- 5분 분량
최종 수정일: 6월 13일
특별기고 | 조인호 | POST-AI 대표 | 2025-06-06 조인호
조인호 포스트에이아이 대표이사
서강대학교 정치외교학과를 졸업, Michigan State University에서 Telecommunication으로 석사학위를, University of Texas at Austin에서 Communication Studies-Organization Science로 박사학위를 받았다. 2018년부터 오피니언라이브의 공동대표로 자연어처리와 인공지능 학습데이터 구축 지원 사업을 주도했다. AX(AI Transformation)와 개인화 기반의 Virtual Persona를 지향하는 포스트에이아이를 설립했다. 현재 이화여자대학교 신산업융합대학과 한국외국어대학교 미디어커뮤니케이션 학부의 겸임교수이기도 하다.
AI, 말할 수 있으나 숙의할 수는 없는
인공지능, 특히 거대 언어 모델(LLM)의 등장은 학습에 사용된 대규모의 데이터에 쉽게 접근할 수 있고, 검색어에 의존하지 않은 일상적인 형태의 질의와 자연스러운 답변을 생성한다는 면에서 비약적인 확장을 가능하게 해 주었다. 하지만 이러한 기술적 발전이 인간 사회의 복잡성과 다원성에 충분히 부응하는가는 별개의 문제다. 현재의 LLM은 방대한 공개 데이터를 통계적으로 학습함으로써, 말할 수는 있으나 숙의를 할 수는 없다. 지식의 깊이나 가치의 판단, 사회적 맥락의 조응 능력은 여전히 제한적이며, 이는 특정한 사회적 의사결정 과정—특히 지방자치 영역에서의 시민 참여와 민주적 숙의—에서 본질적인 제약으로 작용한다.
지방자치, 지역민들의 경험, 가치관에 따라 이해가 다르다
지방자치는 지역 사회의 다원적 이해관계를 조율하고, 시민의 구체적 삶에 밀착된 정책을 설계·집행하는 자치의 공간이다. 그만큼 복잡하고 논쟁적인 현안이 많을 뿐만 아니라, 지역민들의 경험과 관점, 가치관에 따라 현안을 어떻게 이해하는가도 달라진다. 그리고 이러한 다양성과 차이는 무엇을 지자체가 해결해야 할 현안으로 보는가에서부터 해결 방안에 이르기까지 시민 참여를 필수적으로 요구한다.
시민 참여의 현실은 제약과 한계가 가득
오늘날 우리가 직면하고 있는 시민 참여의 현실은 낙관적이지만은 않다. 표준화된 설문조사와 오프라인 시민의회는 여전히 주요 수단으로 기능하고 있지만, 이들 방식은 반복적으로 낮은 응답 신뢰성, 참여자의 인지·관여 수준의 편차, 시공간적 제약과 비용의 한계에 직면하고 있다. 서울시를 포함하여 시도된 오프라인에서의 시민의회가 지속적으로 지역사회의 다양성을 반영하면서 민주적 공론장으로의 역할을 수행하는 데 한계를 노정하고 있는 이유이다. 바로 이러한 조건에서 ‘시민형 AI(Citizenship-oriented AI)’의 필요성이 제기된다.
시민은 어떻게 정책에 개입할 수 있는가
‘시민형 AI’란 단지 기술을 더 윤리적으로 사용하자거나, 인간의 감성을 기술에 덧입히자는 선언이 아니다. ‘시민형 AI'는 기술이 구성되고 학습되는 구조 속에 시민이 어떻게 개입할 수 있을까를 묻는 실천적 기획이다. 시민형 AI는 기술을 매개로 하여 시민의 관점, 감각, 가치를 구현하고, 참여와 숙의가 가능한 민주적 공간을 디지털 환경에서 지속적으로 구현하고자 하는 시도다. 그리고 그 핵심은 인간이 아닌 AI가 ‘시민처럼 말한다’는 데 있는 것이 아니라, 시민이 실제로 말한 것의 구조, 맥락, 가치를 기술이 어떻게 보존·확장할 수 있는가에 있다.
특정 주제에 충분히 숙지된 상태의 시민들이 제공하는 의견으로 구축된, ‘디지털 휴먼’
시민형 AI는 특정 주제에 대해 충분히 ‘숙지된 상태(informed state)’의 시민들이 제공하는 발화와 의견을 기반으로 구축된 디지털 휴먼들로 구성된다. 각각의 디지털 휴먼은 개인적 경험과 관점을 유지하는 동시에 사회집단의 구성원으로서의 가치와 신념 체계를 반영하고, RAG(Retrieval-Augmented Generation), LoRA(Low-Rank Adaptation) 등의 최신 기술을 통해 최신성 및 가치 일관성을 유지하면서, 인간 사회자 및 디지털 휴먼들과 숙의형 논의 구조를 형성하게 된다.
디지털 휴먼과 시민이 토론하는 ‘패널형 구조’
시민형 AI는 세 가지 기본 구조로 구현 가능하다. 먼저 패널형 구조로 구성된 디지털 휴먼들이 한 주제에 대해 토론하고, 인간 사회자가 이들의 발화를 조율하거나 추가 질의를 통해 논의를 심화시키는 구조이다. 이는 전문가-시민-행정이 혼합되는 구조적 시뮬레이션이 가능하다는 점에서 정책 형성과정에 유용할 수 있다. 하이브리드 상호작용형 구조는 시민이 직접 AI 페르소나와 상호작용하거나, 공동 논의에 참여하는 구조이다. 사용자는 자신의 의견을 제출하고, AI 페르소나들과 실시간으로 질의응답, 반론 제시, 해석 요청 등의 활동을 통해 논의의 다층적 전개에 기여한다.
시민이 디지털 휴먼들 사이의 논의에 간접 개입하는, ‘소통 플랫폼’
시민형 AI가 결합된 소통 플랫폼은 일반 시민들의 관찰, 질문, 선호 표현, 의견 제출 등을 가능하게 함으로써 기존 오프라인 시민의회의 접근성 문제를 해소한다. 시민들은 직접 참여하지 않더라도, 디지털 휴먼 사이의 논의 과정을 관찰하고, 자신이 피드백을 제출하거나 정해진 프롬프트를 활용하여 간접적으로 개입할 수 있는 구조를 제공받게 된다. 이는 공공 이슈에 대한 대중적 감시와 숙의 경험을 저비용으로 확장할 수 있는 방식이 될 수 있다.
시민이 기술의 공동 설계자, 시민 참여형 '피지컬 AI'
디지털 구조 외에도, 최근 주목되는 방식은 ‘피지컬 AI(Physical AI)’와 시민 참여가 결합된 ‘시민 참여형 피지컬 AI’의 형태다. 텍스트 환경에 국한되지 않고, 센서, 로봇, 엣지 컴퓨팅이 결합된 AI 시스템을 시민의 생활 공간에 배치하고, 그 설계·운영 단계에서 시민의 의견이 반영되는 구조를 말한다. 시민 참여형 피지컬 AI는 시민이 ‘수동적 기술 수용자’가 아니라, ‘기술의 공동 설계자’로 참여하는 메커니즘을 가능케 하는 동시에, 시민들이 생활 현장에서 기술을 통해 직접적인 문제 해결에 기여하는 구체적인 참여 기회를 제공한다.
‘시티랩 베를린’, 시민들이 자전거 사용 정보를 제공한다
‘시티랩 베를린’은 시민들이 데이터를 제공하는 형태다. 시티랩 베를린의 ‘픽스마이베를린’은 자전거 사용과 관련하여 위험 경로, 거치대, 돌발과 관련된 정보를 시민들의 참여로 확보하고 이를 정책에 반영하는 형태이다. 시민들이 스마트폰 혹은 간이 센서를 통해 직접 대기질, 소음, 조도 등의 데이터를 수집하고, 엣지 AI가 실시간으로 데이터를 처리하여, 도시 내 공기질·소음·조도 등의 지표를 시민과 행정이 함께 분석하고 조치하는 시스템의 구성도 고려해 볼 수 있다. 개인이 아닌 농업 공동체가 농기구·센서·예측 모델 설계와 운용에 참여하며, AI는 환경 변화에 대한 실시간 의사결정 도구로 활용하여 지역 농업 생산성을 제고하는 방식도 가능할 것이다.
대표성, 다양성, DB 현행화 등등 과제들
시민참여형의 AI기술 활용을 위해서는 해결되어야 할 과제들이 존재한다. 시민형 AI의 경우는 대표성과 다양성 확보, 데이터 현행화를 위한 시민 참여의 지속성 유지, 프라이버시와 데이터 거버넌스 문제, 디지털 격차 해소 등은 기술적·사회적 과제로 남는다. 하지만 이러한 과제는 기술적 문제라기보다 거버넌스 설계의 문제이며, 기술과 시민의 공적 협력을 통해 충분히 조율 가능한 영역이다.
지방자치, 인간 정치의 장에서 숙의와 기술이 어떻게 연결되는지 탐색하는 실험실
결론적으로, 시민형 AI는 기술이 아니라 ‘절차적 정의’를 구현하는 새로운 사회적 장치이다. 이는 AI를 민주주의의 적이 아니라, 그 실행 수단으로 재구성하려는 시도이며, 지방자치라는 가장 인간적인 정치의 장에서 기술과 숙의가 어떻게 연결될 수 있는지를 탐색하는 하나의 ‘실험실’이 될 수 있다. 지금 필요한 것은 단지 기술의 채택이 아니라, 기술을 통해 ‘공통된 삶의 조건’을 어떻게 재설계할 것인가에 대한 사회적 상상력과 윤리적 감각이다. 시민형 AI는, 바로 그 재설계 과정에 시민이 개입할 수 있도록 만드는 작은 기술적·철학적 실천이다.
용어 설명
거대언어모델(LLM): 방대한 양의 텍스트 데이터를 학습하여 인간의 언어를 이해하고 생성하도록 설계된 인공지능 모델임. 핵심적인 기능은 주어진 입력에 따라 자연어 텍스트를 생성하는 것이며, 이는 모델이 학습한 통계적 패턴을 기반으로 다음 단어를 예측하고 연결하는 방식으로 이루어짐.
디지털 휴먼: 인공지능, 컴퓨터 그래픽 등의 기술을 활용하여 실제 사람처럼 보이거나 행동하고, 소통할 수 있도록 구현된 가상의 인간을 의미함.
페르소나: 연극에서 배우가 쓰는 가면을 의미하는 라틴어에서 유래함. 상황과 목적에 따라 설정된 가상의 인물 또는 역할로 정의될 수 있으며, 최근에는 LLM모델의 학습 데이터에 특정 페르소나의 역할과 성격을 부여하는 형태의 AI페르소나가 관심을 끌고 있음.
RAG(Retrieval-Augmented Generation): LLM이 사전 학습된 데이터에만 의존하는 한계를 보완하기 위해 개발된 인공지능 프레임 워크로, 외부의 신뢰할 수 있는 지식에서 관련 정보를 검색하여 이를 바탕으로 LLM이 답변을 생성하도록 돕는 기술임.
LoRA(Low-Rank Adaptation): 적은 수의 매개변수만을 학습을 통해 미세 조정함으로써 거대언어모델 전체를 업데이트하는 비용과 시간을 줄이면서, 목적에 따른 활용성을 증가시키기 위한 기술.
엣지 컴퓨팅: 데이터가 생성되는 원천에서 가까운 곳에서 데이터를 처리하고 분석하는 컴퓨팅 방식을 의미하며, 중장 집중식이 아닌 스마트폰과 같은 최종 사용자의 기기 또는 네트워크의 엣지(가장자리)에 위치한 서버나 장치에서 컴퓨팅을 수행하는 것이 핵심임.
시민참여형 AI가 기술이 아니라 새로운 사회장치라는 말이 눈에 띄네요