조인호의 시민형 AI | ② 지식의 불확정성을 알고 나면

---

정보와 지식은 다르다. 정보가 객관 데이터라면, 지식은 해석에 따라 가치 편향이 담기며 권력과 연결된다. 객관 지식은 존재하기 어렵고, 기술이 발전해 정보의 양과 속도가 증가하더라도 지식의 증가나 사회적 합의의 확대로 이어지지 않는다. 푸코는 ‘지식은 권력이다’, 부르디외는 ‘지식이 제도 교육과 문화 자본으로 계층화된다’고 통찰한다. AI의 응답은 빈도 중심의 데이터, 서구 중심 텍스트, 주류 언론이 제공한 기사, 정치 중립을 가장한 요약으로 구성된다. ‘시민형 AI’는 지식의 불확정성을 인정하고, 다양한 관점을 동등하게 호출하는 기술적, 정치적 구조를 만들고자 한다. 기술이 정확해지기보다 더 '다양해지기'를 바란다.

2025-07-11 조인호

조인호 포스트에이아이 대표이사

서강대 정치외교학과를 졸업, Michigan State University에서 Telecommunication으로 석사학위를, University of Texas at Austin에서 Communication Studies-Organization Science로 박사학위를 받았다. 2018년부터 오피니언라이브의 공동대표로 자연어처리와 인공지능 학습데이터 구축 지원 사업을 주도했다. AX(AI Transformation)와 개인화 기반의 Virtual Persona를 지향하는 포스트에이아이를 설립했다. 현재 이화여자대학교 신산업융합대학과 한국외국어대학교 미디어커뮤니케이션 학부의 겸임교수이기도 하다.

---

[편집자 주] 이 연재를 맡은 조인호 박사는 '사회발전은 기술적 발전이 아니라 인간성의 재발견을 통해 이뤄졌다'고 말한다. 인공지능의 급속한 확산과 함께 우리 사회를 '초지능사회, 인공지능사회' 등으로 규정하기에 앞서서, 기술과의 거리 두기가 필요하며, 기술의 사회화를 고민해야 한다고 말한다. [조인호의 시민형 AI]에서는 그가 제안하는 '시민형 AI'에 대한 궁금증을 풀어볼까 한다. 왜 시민형 AI가 필요한지, 시민형 AI의 구성 요소, 기술적 사회적 특징, 풀어야 할 과제, 구현된 사례, 유사한 기술들, 앞으로의 전망을 담고자 한다. 더 궁금한 것은 꼭 댓글로 달아 물어 보자.

지난 기사

① 소버린 AI를 채우는 민주적 장치

---

AI와 민주적 공론장의 미래를 묻는다

우리는 지금, 거대언어모델(LLM)을 ‘빠른 정보 제공’의 도구로 소비하는 데 점점 익숙해지고 있다. 누군가는 ChatGPT에 질문을 던지면 몇 초도 안 되어 답이 나온다며, 인간보다 AI가 더 ‘똑똑한 존재’라고 느낄지도 모른다. 하지만 인공지능과의 상호작용 과정에서 물어야 할 질문은 따로 있다. '그 답변을 누구의 관점에서 구성되었나?', '답변은 실제로 누구의 이해를 반영하는가?', '그 안에 누락된 지식은 없는가?'라는 질문 말이다. 이 질문은 단지 기술의 정밀도와 정확성를 따지자는 게 아니라, 지식의 본질과 사회적 작동 방식을 성찰하자는 요구이다. 이러한 성찰 없이는 ‘시민형 AI’이나 ‘사회적 다양성’이 또 다른 기술 기획을 위한 도구에 불과하기 때문이다.

지식사회학으로 본, 정보와 지식의 차이

사실과 의견은 엄연히 다르다. 마찬가지로 정보와 지식을 흔하게 혼용해 쓰더라도 본질은 근본적으로 다르다. 정보는 수집, 저장, 전송이 가능한 객관화된 데이터의 집합이다. 마치 도서관 안에 책이나 인터넷상에 웹페이지처럼, 정보는 자체로 존재하며 우리는 기술적인 매개를 통해 정보에 접근하고 공유할 수 있다. 반면, 지식은 단순히 축적된 정보의 합이 아니다. 지식은 사회적 맥락에 따라 형성되며, 지식을 해석하는 주체의 관점과 연결되어 있다. 정보가 중립적인 데이터의 조각이라면, 지식은 언제나 해석이 필요하고, 가치 편향을 담고 있으며, 권력과 깊이 연결된 산물이다.

지식사회학은 정보와 지식의 구분을 심도 있게 다룬다. 지식사회학의 창시자 중 한 명인 카를 만하임(Karl Mannheim)은 지식이 항상 특정한 사회 요구와 연결되며 따라서 '객관' 지식은 존재하기 어렵다고 보았다. 만하임은 지식이 개인의 경험과 집단의 이데올로기 배경에 따라 다르게 구성된다고 강조했다. 즉, 어떤 정보가 단순히 존재하는 게 아니라, 인간이란 인식 주체가 사회적 환경에 따라 정보를 이해하고 의미를 부여할 때 비로소 지식이 된다고 보았다.

지식사회학은 지식이 특정한 사회 조건과 이해관계에 따라 구성되며, 어떤 지식이 '진리'로 인정되고 유통될지는 해당 사회의 지배 가치와 규범, 권력 관계에 의해 결정됨을 강조한다. 19세기 의학 교과서에 담겼던 '지식'은 21세기에는 더 이상 유효하지 않다. 심지어 더 해로울 수 있다. 이처럼 지식은 고정불변이라거나 단순하지 않다. 지식은 시대와 사회의 변동에 따라 끊임없이 재구성되는 역동적인 실체이다.

다소 다르게 보는 시각인 정보사회학은 정보의 생산, 유통, 소비가 사회에 미치는 영향에 주목한다. 그럼에도 정보사회학 역시 기술이 발전해 정보의 양과 속도가 증가한다고 해도, '지식'의 증가나 사회적 합의의 확대로 바로 이어지지 않는다고 지적한다. 정보는 기술의 힘으로 전송되지만, 지식은 여전히 사회와 정치의 요구에 따라 구성된다. 정보의 양적 증대가 지식의 질적 향상이나 사회적 이해의 증진을 보장하지 않는다는 뜻이다. 오히려 과도한 정보는 '정보 과부하'를 야기해, 개인이 진정 필요로 하는 지식을 습득하고 판단하는 데 방해가 됨을 관련 연구들은 밝히고 있다.

푸코와 부르디외의 통찰, 지식과 권력의 얽힘

지식은 결코 중립이 아니며, 늘 권력과 밀접하게 연관되어 있었다. 프랑스의 철학자 미셸 푸코(Michel Foucault)는 '지식은 권력이다'라는 명제를 통해 이 관계를 보다 명확히 했다. 푸코는 지식을 단순히 '있는 것'의 반영이 아니라, '보여진 것'과 '숨겨진 것'을 조직하는 권력의 장으로 이해한다. 특정 지식을 진리로 받아들이고, 다른 지식은 배제하거나 왜곡하는 과정 자체가 권력의 작동 방식이라고 본다.

푸코는 정신의학이나 감옥 시스템 같은 제도가 특정 지식을 생산하며, 이를 통해 사회를 통제한다고 기술하고 있다. 지식은 단순히 객관적인 것이 아니라, 권력 주체에 의해 구성되고 행사되는 도구라고 푸코는 지적하며, 이러한 지식과 권력의 복합 관계를 '지식-권력(pouvoir-savoir)'으로 설명한다.

피에르 부르디외(Pierre Bourdieu) 또한 지식의 사회적 불평등을 날카롭게 지적한다. 부르디외는 지식이 제도화된 교육 구조와 문화 자본을 통해 계층화된다고 보았다. 특정 계층은 사회가 인정하는 지식에 더 쉽게 접근하고 쉽게 습득할 수 있는 반면, 그렇지 못한 계층은 지식으로부터 소외된다. 지식의 습득과 활용이 단지 개인의 이해력 문제가 아니라 사회적 분배의 문제이며, 동시에 사회적 지위와 권력을 재생산하는 기제로 작동함을 의미한다. 명문대에서 받은 교육을 통해 습득한 지식이나 특정 문화 취향이 사회 엘리트 계층에게 유리하게 작용되는 현상이 그 예이다. 부르디외는 지식과 문화가 계급 재생산의 도구로 사용됨을 보여 주고, 지식의 표현과 유통이 사회적 위계에 따라 제한될 수 있음을 강조한다.

지식의 다양성이 곧 민주성이다: AI 시대 지식 구성주의

이러한 관점에서 보면, 어떤 지식이 뉴스가 되고, 어떤 지식이 교육되며, 어떤 지식이 삭제되는가는 언제나 누군가의 입장에 따라 결정된다고 할 수 있다. 지식은 중립이 아니며, 지식의 생산, 유통, 소비 전 과정에 걸쳐 권력 관계가 개입함은 필연이다. 그렇다면 인공지능, 특히 대규모 언어 모델(LLM)은 과연 다양한 지식을 반영하는가? 과연 그럴 수 있는 구조인가?

현재 대다수의 LLM은 방대한 양의 데이터를 학습해 응답을 생성한다. 이 데이터는 대부분 표면적이고 빈도 중심의 데이터, 서구 중심의 텍스트, 주류 언론이 제공한 기사, 정치 중립을 '가장한' 요약물들로 구성되어 있다. 사회구성주의 관점에서 볼 때, 현재 AI가 학습하는 데이터는 특정 사회적, 문화적 맥락과 권력 관계에서 우위를 점하는 지식에 편향되어 있다. 다양성, 비주류적 관점, 비가시적 지식은 포함되기 어렵다. AI가 '객관' 진실을 학습하는 게 아니라, 기존 사회의 지배적인 지식 구성 방식을 내재화하고 있다는 의미이다.

이러한 구조 속에서 생성된 응답은 '보편적'이라기보다 '지배적' 의견의 반복일 가능성이 크다. 따라서 우리는 AI가 제시하는 답변이 곧 '사회 합의된'이나 '객관 사실인'으로 받아들여서는 안 된다. 오히려 '누락된 것', '표현되지 못한 것', '침묵당한 것'을 끊임없이 질문해야 한다. 이것은 AI의 기술 한계 지적를 넘어, 지식의 본질적인 불확정성을 인식하고 민주주의 관점에서 AI의 역할을 재정의하려는 시도이다.

여기서 시민형 AI의 핵심은 '지식의 불확정성'을 인정하고, 다양한 지식과 관점을 동등하게 호출할 기술적이고 정치적인 구조를 만드는 데 있다. 단지 기술이 더 '정확해진다'가 아니라, 기술이 더 '다양해진다'를 의미한다. 다양한 지식의 표현이 보장될 때 비로소 우리는 민주 공론장을 기대할 수 있으며, 이는 AI 시대 민주주의의 핵심 과제가 되어야 한다.