기후국가의 기후기술 | 기후국가의 인공지능 기술, 시민형 AI | 조인호 | POST-AI 대표
- Theodore
- 6월 20일
- 5분 분량
2025-06-19 최민욱 기자
조인호 대표는 서강대 정치외교학과를 졸업, Michigan State University에서 Telecommunication으로 석사학위를, University of Texas at Austin에서 Communication Studies-Organization Science로 박사학위를 받았다. 2018년부터 오피니언라이브의 공동대표로 자연어처리와 인공지능 학습데이터 구축 지원 사업을 주도했다. AX(AI Transformation)와 개인화 기반의 Virtual Persona를 지향하는 포스트에이아이를 설립했다. 현재 이화여자대학교 신산업융합대학과 한국외국어대학교 미디어커뮤니케이션 학부의 겸임교수이기도 하다.
시민형 AI란 무엇인가
시민형 AI는 인공지능이 사회 구성원의 다양한 관점과 가치, 맥락적 경험, 그리고 사회적 책임성을 반영하도록 기술적으로 설계된 인공지능 개념이다. 시민 참여 중심의 설계 구조를 갖추며, 기술의 발전이 민주적 가치와 시민성을 증진시키는 방향으로 나아가도록 통제 가능한 구조를 갖는다. 이는 기존의 문제 해결형 AI나 Civic AI와 구별되는 핵심적인 차별점이다. 시민형 AI의 핵심은 다양성 존중과 맥락적 포용에 있다. 소수자, 사회적 약자, 지역적·문화적 맥락이 AI의 설계 및 학습 단계에서부터 명시적으로 포함된다. 그들의 관점이 기술적으로 배제되지 않도록 하는 것이다. 또한 필터버블 현상과 같은 개인화의 한계를 극복하여 시민들이 다양한 견해를 자연스럽게 접하고 상호작용하도록 유도함으로써 민주적 숙의와 공론장을 활성화한다.
특히 알고리즘의 작동 방식과 편향의 가능성을 투명하게 공개하고, 시민들이 AI의 추천 결과를 비판적이고 성찰적으로 평가할 수 있도록 하는 사회적 책임성과 윤리적 투명성을 중시한다. AI의 맹목적 사용을 방지하기 위해 시민들이 AI의 한계를 명확히 이해하고, 자신의 필요와 가치에 따라 비판적이고 주체적으로 활용할 수 있도록 하는 비판적 리터러시 함양도 핵심 요소다. 무엇보다 기술이 단지 효율성이나 경제적 이익만을 추구하는 것이 아니라, 인간 존엄성, 공동체적 연대, 민주적 참여 등 사회적 가치를 중심에 놓고 설계되는 것을 지향한다.
최근 화두가 되고 있는 '소버린 AI(Sovereign AI)'와 시민형 AI는 경쟁적 관계가 아니다. 소버린 AI가 국가 차원에서 데이터 획득부터 분석, 배포, 활용, 관리까지의 전 과정을 주권적으로 관리하는 개념이라면, 시민형 AI는 AI에 개입하고 통제할 수 있는 주체가 시민사회 혹은 시민 개인이 될 수 있는 형태를 지향한다.
기존 접근법과의 차이점
시민형 AI는 기존의 시빅텍(Civic Tech)이나 Civic AI와 명확한 차이를 보인다. 기존 기술적 문제 해결 AI는 주로 환경 문제 해결에 초점을 맞춘 센서 기반 분산형 인공지능 시스템으로 개인의 에너지 절약, 탄소 감축 등을 유도하는 반면, Civic AI는 다양성 강화, 시민 참여, 사회 불평등 해소 등의 가치를 지향한다고 소개되지만, 아직 구체적인 기술 접목이나 실현 모델은 제시되지 않은 상태다.
시민형 AI(Citizenship-oriented AI)는 이러한 추상적 담론을 넘어, 시민이 직접 AI 설계와 통제에 관여하며 사회적 맥락을 반영하도록 구현된 구조를 지향한다. 이는 단순한 참여를 넘어선 '공동 설계자'로서의 시민을 전제한다는 점에서 차별화된다. 따라서 개인의 실천력을 유지하면서도 공공 의사결정 과정에 시민이 실질적으로 참여하고 통제할 수 있는 AI 기반 구조를 지향한다.
생활근접형 AI는 엣지 컴퓨팅 기반으로 단말기 수준에서 실시간 정보를 처리하고 응답하는 구조다. 시민형 AI는 이러한 기술적 효율성에 머무르지 않고, 인간과 기술이 상호작용하며 함께 성장하는 방향으로 재설계된다는 점에서 차별화된다.
목적 면에서도 기술적 문제 해결 AI가 개인 환경 실천에, Civic AI가 시민 권한 강화에 중점을 둔다면, 시민형 AI는 민주적 가치 구현과 실천, 참여를 모두 결합한다. 시민의 역할 또한 기존 AI에서는 데이터 제공자나 참여자에 머물렀다면, 시민형 AI에서는 공동 설계자이자 의사결정자, 비판적 평가자의 역할을 수행한다.
시민형 AI의 계층적 구조
시민형 AI는 데이터 수집에서 분석, 소통, 숙의로 이어지는 계층적 구조를 따른다. 데이터 영역에서는 시민이 직접 데이터를 수집하고, 분석 영역에서는 이를 기반으로 AI가 판단과 예측을 수행한다. 소통 영역에서는 이 결과를 시민과 공유하며, 숙의 영역에서는 시민이 의사결정에 참여한다. 이러한 흐름은 시민의 역할을 단순한 참여자에서 공동 설계자, 평가자, 의사결정자로 확장시킨다.
각 영역은 구현 난이도에 따라 하-중-상으로 구분할 수 있다. 데이터 영역은 구현 난이도가 낮으며, 시민의 데이터 주권 확립을 목적으로 한다. 시민들이 일상적인 문제를 해결하기 위한 과정에서 데이터의 획득과정부터 통제력을 발휘하는 구조를 통해 문제해결과정에 직접적 참여자가 되는 형태다. EU를 중심으로 상당히 많이 실현되고 있는 기술적 형태로, I-CHANGE(시민과학 기반 환경 모니터링), TeRRiFICA(크라우드맵핑 기반 기후취약점 시스템), D-NOSES(시민 악취 모니터링 시스템), CityCLIM, FreshWater Watch, eBird 등의 프로젝트들이 진행되고 있다.
분석 영역은 자연어처리(NLP)와 머신러닝(ML)을 통해 의견 모니터링, 실시간 분석, 의견 분류, 감성 분류, 토픽의 시계열적 추세 분석 등을 수행하는 영역으로 구현 난이도가 낮다. 산업이나 공공 영역, 기상 분야에서 실시간 데이터를 활용한 단기·장기 예측 모델링도 포함된다. 대표적인 사례로 Litterati가 있다. 시민들이 버려진 쓰레기 사진을 찍어 올리면, AI의 이미지 인식 기술이 해당 쓰레기의 종류(플라스틱 병, 담배꽁초 등), 재질, 그리고 상표까지 자동으로 태깅하여 데이터를 분류한다.
소통 영역은 도메인 특화 언어모델(sLLM)을 활용한 AI 에이전트가 시민들과의 질의 응답을 수행하고, 동시에 논의의 흐름을 조율하는 중재자 역할을 병행하는 중간 난이도의 영역이다. 소통영역의 사례로는 ChatClimate 외에도 CITBot, We Don't Have Time 등이 있다. ChatClimate는 IPCC 제6차 평가보고서(AR6)를 기반으로 구축된 대화형 AI 시스템으로, GPT-4를 이용하지만 실제로는 외부 데이터베이스를 통해 정보를 검색해서 자연스러운 형태로 반환하는 방식이다. CITBot은 기후행동 촉진을 위한 챗봇으로 시민 행동을 유도하며, We Don't Have Time은 사용자들이 기업과 정책결정자에게 기후 대응 리뷰를 남기고 의견을 공유하는 플랫폼이다. 이들은 모두 시민 참여와 AI 기술을 융합한 실질적 사례다.
시민형 AI의 핵심은 숙의 영역이다. 이 영역은 시민들이 AI를 통해 실질적으로 의사결정에 참여하고, 토론과 합의를 형성함으로써 준직접민주주의(pseudo-direct democracy)를 구현하는 것을 목표로 한다. 구현 난이도는 가장 높지만, 민주적 AI의 본질적 가치가 구현되는 지점이다.
계층적 접근: 집단에서 개인으로
시민형 AI는 각 기능 단계를 기술적으로 분리함과 동시에, 구현 방식에서는 집단과 개인을 포괄하는 계층적 접근을 취한다. 집단별/유형별 페르소나는 특정 가치나 행동 양식을 공유하는 시민들을 군집화해 그 집단의 대표성을 반영한다. 반면 시민의 맥락적 데이터를 학습한 개인화 AI는 개별 시민의 익명화된 데이터를 바탕으로 실제 시민과 유사하게 사고하고 상호작용할 수 있는 AI로 진화한다.
마지막으로, 사회성 반영 AI 페르소나는 다수의 개인화 AI가 상호작용하면서 집단적 학습과 진화를 통해 공유된 의식을 형성하는 구조다. 개별 AI 에이전트들이 상호작용과 변화를 통해 집단적 페르소나 진화에 기여하는 방식으로, 공유된 의식(shared consciousness)을 통해 전체 시민 의견의 흐름이나 변화를 동적으로 반영하는 형태다. 다만 여러 AI 에이전트들의 상호작용과 진화는 단일 모델보다 대단히 복잡하며, 공유된 의식의 설명 가능성과 신뢰성 문제가 존재한다.
학술연구가 뒷받침하는 기술적 가능성
이러한 시민형 AI의 구현 가능성은 최근 학술연구 결과들을 통해 기술적으로도 입증되고 있다. 구글 딥마인드와 스탠포드가 공동으로 진행한 연구(Park et al., 2024)는 1052명에 대한 인터뷰를 통해 개인화된 데이터를 수집하고, 해당 데이터로 개별적인 AI 페르소나를 구성한 후 설문조사를 통해 검증했다. 설문 응답자의 행동·의견을 AI 페르소나가 약 85% 수준에서 유사하게 재현했다는 검증 결과가 도출됐다.
Francesco Salvi 등의 연구(2025)는 사람과 AI의 토론 능력을 비교한 실험에서 개인정보를 입력받은 AI(ChatGPT-4)의 설득률이 인간보다 높게 나타났음을 검증했다. GPT-4가 상대방의 개인정보를 활용해 주장을 펼칠 경우, 사람보다 64% 더 자주 상대방을 설득했고, 동의 확률이 81.2% 더 높게 나타났다.
상업적 영역에서도 Survey2Persona, Delve AI 등의 서비스가 이미 운영되고 있다. Survey2Persona는 설문 데이터를 통해 페르소나를 생성한 후 지속적으로 AI 페르소나들이 고객 만족이나 직원 참여 등에서 참여하는 형태의 서비스를 제공한다. Delve AI는 매주 인터뷰를 통해 개인화된 데이터를 계속 축적하고 업데이트해 브랜드 선호도 질문이나 마케팅 전략, 광고 관련 A/B 테스트 등을 진행할 수 있도록 하는 서비스를 운영하고 있다.
구현 과정의 도전 과제
시민형 AI 구현 과정에서는 여러 도전 과제가 존재한다. 시민 참여 유도 및 지속성 확보 측면에서는 양적·질적으로 우수한 학습 데이터 확보, 시간 흐름에 따른 인식과 관점의 현행화, 참여자 구성 편향 및 데이터 기반 의견 재현의 대표성, 참여 동기 유지 및 탈락에 따른 대표성 관리 등이 주요 과제다.
인공지능 기술 고도화 측면에서는 장기적인 AI 페르소나의 일관성 유지, 실시간 참조 데이터(RAG)의 신뢰성 관리, 데이터 수집 및 전처리 과정의 효율화, 가치 기반 추론 모델 개발 등이 핵심 이슈로 제기된다.
특히 가치 기반 추론 모델의 경우, 현재 AI의 추론 방식은 수학이나 코딩, 물리 문제 등 정답이 정해져 있거나 명확한 기준으로 순위를 매길 수 있는 영역에서만 효과를 발휘하고 있다. 그러나 의견을 제시하는 형태의 추론에는 비판적 사고, 연역적 사고, 귀납적 사고, 즉흥적 반응 등 다양한 사고 과정이 필요하다. 사회적 영역에서의 추론 모델 개발이 상당히 중요한 기술적 난제가 될 것으로 예상된다.
기후민주주의를 위해 시민형AI는 매우 유효한 수단일 듯 합니다