조인호의 시민형 AI ③ 관점이 다른 지식들의 집합이자 민주적 공론장의 시뮬레이터

---

시민형 인공지능 특징, 시민형 AI는 다양한 시민들의 경험과 신념을 토대로 구축되어야 하며, 민주적 공론장을 시뮬레이션하는 '구조적 인공지능'이 되어야 한다. 지식의 편향성과 불확정성을 인정하며, 다양한 목소리가 공존하는 기술적 시도가 필요하다.

2025-07-18 조인호

조인호 포스트에이아이 대표이사

서강대 정치외교학과를 졸업, Michigan State University에서 Telecommunication으로 석사학위를, University of Texas at Austin에서 Communication Studies-Organization Science로 박사학위를 받았다. 2018년부터 오피니언라이브의 공동대표로 자연어처리와 인공지능 학습데이터 구축 지원 사업을 주도했다. AX(AI Transformation)와 개인화 기반의 Virtual Persona를 지향하는 포스트에이아이를 설립했다. 현재 이화여자대학교 신산업융합대학과 한국외국어대학교 미디어커뮤니케이션 학부의 겸임교수이기도 하다.

[편집자 주] 이 연재를 맡은 조인호 박사는 '사회발전은 기술적 발전이 아니라 인간성의 재발견을 통해 이뤄졌다'고 말한다. 인공지능의 급속한 확산과 함께 우리 사회를 '초지능사회, 인공지능사회' 등으로 규정하기에 앞서서, 기술과의 거리 두기가 필요하며, 기술의 사회화를 고민해야 한다고 말한다. [조인호의 시민형 AI]에서는 그가 제안하는 '시민형 AI'에 대한 궁금증을 풀어볼까 한다. 왜 시민형 AI가 필요한지, 시민형 AI의 구성 요소, 기술적 사회적 특징, 풀어야 할 과제, 구현된 사례, 유사한 기술들, 앞으로의 전망을 담고자 한다. 더 궁금한 것은 꼭 댓글로 달아 물어 보자.

지난 기사

① 소버린 AI를 채우는 민주적 장치

② 지식의 불확정성을 알고 나면

---

다양한 집단, 개인, 가치 지향을 지닌 시민들이 제공한 경험과 신념의 데이터

시민형 AI는 단지 정보를 빠르게 제공하는 기술이 아니며, 되어서도 안 된다. 시민형 AI는 다양한 집단, 다양한 개인, 다양한 가치 지향을 지닌 시민들이 제공한 경험과 신념의 데이터에서 출발해야 한다. 이 데이터는 단순히 질문-답변의 쌍으로 구성되는 것이 아니라 의견의 형성 배경, 감정적 맥락, 사회적 위치를 포함한 다층적인 데이터로 구성되어야 한다. 이는 지식이 개인의 경험과 사회적 위치에 따라 다르게 구성될 수 있다는 사회구성주의적 관점을 AI 설계에 적극적으로 반영한다는 뜻이다.

민주적 공론장을 시뮬레이션하고 보완하는 '구조적 인공지능'

이 과정은 당연히 파인튜닝(fine-tuning)이나 RAG(Retrieval-Augmented Generation) 같은 기술적 구조와 결합되어야 하며, 다수의 시민형 AI 페르소나들이 동시적으로 상호작용하며 숙의적 논의와 대립, 그리고 타협의 과정을 거치는 구조여야 한다. 즉, 시민형 AI는 단일 응답을 생성하는 기계가 아니라, 민주주의적 공론장을 시뮬레이션하고 보완하는 '구조적 인공지능'이 되어야 한다.

기술보다 중요한 설계 철학: 누구의 목소리가 반영되는가?

우리는 흔히 기술의 성능, 처리 속도, 연산력, 파라미터 수를 중심으로 AI의 수준을 평가한다. 이는 시민형 AI에 적용할 수 있는 잣대가 아니다. 시민형 AI의 핵심은 '어떻게 훈련되었는가', '누구의 목소리가 반영되었나', '누구에게 유리하게 작동하는가'에 있다. 이는 푸코와 부르디외가 지적했듯, 지식과 권력의 관계를 AI 설계의 근본적인 문제로 인식해야 함을 의미한다.

다양한 계층과 공동체, 성별과 연령, 가치관의 분포를 대표하는 시민형 페르소나를 구축하고 그들의 의견을 서로 충돌시키며 숙의의 과정을 구현하는 것. 이것이야말로 우리가 바라봐야 할 AI의 미래이며, 인공지능이 민주주의에 기여할 방식이다. AI가 특정 집단의 지식과 관점을 재생산하는 도구가 아니라, 다양한 목소리가 공존하고 상호작용하는 장이 될 수 있게 설계 철학을 전환해야 하는 이유이다.

결론: 불확정성을 수용하는 지성과 시민형 AI의 만남

시민형 AI는 단순히 '정확한 답'을 제공하는 기계를 넘어선다. 시민형 AI는 지식의 본질적인 불확정성을 적극적으로 끌어안고, 다양한 관점과 해석이 공존하며 끊임없이 질문과 논쟁을 지속시키는 공론적 장치이다. 지식사회학적 관점에서 지식이 사회적으로 구성되며 고정불변이 아님을 인정하는 것은 시민형 AI가 나아가야 할 방향을 제시한다. 즉, AI는 특정 '진리'를 제시하는 게 아니라, 다수의 진실과 해석이 씨름하는 과정을 보여주는 '관문'이 되어야 한다.

기존의 AI가 방대한 정보 속에서 하나의 정답을 찾아 제시하려 했다면, 시민형 AI는 오히려 다수의 관점과 해석이 충돌하고 숙의하는 과정 자체를 재현하는 시뮬레이션이다. 이는 지식의 불확정성을 수용하는 지성의 발현이며, 민주주의의 핵심 가치인 다원성을 기술로 구현하는 시도이다. AI가 특정 집단의 권력과 이익을 대변하는 도구가 아닌, 사회의 모든 구성원이 자신의 목소리를 내고 다양한 지식을 교환하며 새로운 지식을 공동으로 구성해 나가는 플랫폼이 될 때, 비로소 진정한 '시민형'이라는 수식어를 붙일 수 있다.

우리가 원하는 것은 '모두를 위한 하나의 정답'이 아니라, 각자에게 다른 의미를 가지는 다수의 진실이며, 바로 그 지점에서 민주주의는 기술과 만날 수 있다. 시민형 AI는 기술을 민주화하는 것을 넘어, 민주주의를 기술화하는 새로운 시도여야 한다. 그 첫걸음은, 지식이 무엇인가를 다시 묻는 데서 시작되어야 한다. AI가 제공하는 '정보'를 맹목적으로 수용하기보다, 그 속에 담긴 '지식'의 편향성과 구성성을 이해하고 비판적으로 접근하는 지성을 길러야 한다. 이 과정에서만이 AI는 민주주의의 위기를 심화시키는 도구가 아닌, 오히려 민주적 공론장을 확장하고 강화하는 촉매제가 될 수 있다.