조인호의 AI와 기후 ⑥ | AI는 혁신을 주도할 수 있는가?

---

생성형 AI 시대, 인간의 개입을 둘러싼 재평가. 우리는 늘 혁신하고자 한다. 이 혁신에서 AI는 어떤 역할을 할까? 기존 질서에서 성능을 높이는 ‘누적적’ 혁신과 새로운 가치를 도입하는 ‘파괴적’ 혁신으로 나눠 살핀다. 혁신은 기술에서 출발하지만 가치를 판단하고 책임지는 것은 사람이다. AI가 속도를 높일 때 인간은 방향을 가다듬어야 한다. 이 두 리듬은 잘 조율하는 것이 경쟁력이다.

2025-10-30 조인호

조인호 포스트에이아이 대표이사

서강대 정치외교학과를 졸업, Michigan State University에서 Telecommunication으로 석사학위를, University of Texas at Austin에서 Communication Studies-Organization Science로 박사학위를 받았다. 2018년부터 오피니언라이브의 공동대표로 자연어처리와 인공지능 학습데이터 구축 지원 사업을 주도했다. AX(AI Transformation)와 개인화 기반의 Virtual Persona를 지향하는 포스트에이아이를 설립했다. 현재 이화여자대학교 신산업융합대학과 한국외국어대학교 미디어커뮤니케이션 학부의 겸임교수이기도 하다.

[편집자 주] 기후위기 솔루션으로서 AI의 역할은 어떤 것들이 있을까? 이미 AI는 기상 예측, 기후재난 대응, 탄소 감축, 에너지 그리드 등 기후 관련 다양한 솔루션에 쓰이고 있다. 기후 문제는 지구 상의 모든 곳, 모든 사건에 닿아 있기에 그만큼 복잡하고 다층적이어서 해결이 쉽지 않다. 그런 점에서 AI와 시민의 협업을 개념화하고 알려 온 필자에게서 기후위기 솔루션으로서 AI를 활용한 국내외 다양한 사례들을 듣고자 한다. 인간과 AI의 차이점이 낳은 협력의 근거들을 찾아 '우일신又日新'해 보자.

지난 기사

① 원거리까지 ‘찾고’, 로컬에서 ‘결정하는’ 협업

② 시민이 제보한 데이터, AI가 여는 재난 경보

③ 나는 진리를 모릅니다! LLM, 인공지능의 고백

④ 내가 작성한 프롬프트의 저작권을 인정받으려면

⑤ 생성형 AI의 숙명, ‘환각’ 줄이기: RAG부터 사후 검증까지

---

AI가 잘하는 일, 인간이 여전히 잘하는 일

생성형 AI가 보여 주는 속도와 범위는 엄청나다. 한동안 우리의 상상 속에 머물던 자동화는 이제 일상이 되어 가고 있다. 글을 쓰고, 코드를 생성하며, 복잡한 데이터를 요약하는 능력이 급격히 개선되면서, 인간의 지적 활동 중 어떤 부분이 대체되거나 재배치될지가 점점 더 구체적으로 이야기되고 있다. 이 현상을 단순한 기술 찬반의 구도에서 다루기보다는, 혁신 이론이라는 오래된 렌즈를 통해 다시 들여다봐야 한다. 이런 시도가 앞으로의 선택을 감정에 휩쓸리지 않고, 조금 더 체계적인 논의 구조에서 볼 수 있게 한다고 생각한다.

경영학, 조직행동론, 조직커뮤니케이션에서 널리 쓰여 온 누적적 혁신(Incremental Innovation)과 파괴적 혁신(Disruptive Innovation)의 구분이 유용한 출발점이 될 수 있을 듯하다. 전자는 기존 질서와 가치 기준을 전제로 성능을 점진적으로 높이는 유형의 혁신이다. 후자는 기존 질서 자체를 재배열하거나 다른 방식의 가치를 도입하는 혁신으로 설명되고 있다. 이 대비 속에서 AI가 무엇을 잘하고, 인간이 어디에서 여전히 주도적일 수 있는지를 이야기해 보자.

AI는 기존 틀 안에서 탐색하는 데 적합한 도구

누적적 혁신의 영역에서 AI의 존재감은 이미 상당히 뚜렷해 보인다. 방대한 사전 학습을 통해 축적된 통계적 지식은 반복되는 인지 과제에서 안정적인 품질을 내도록 돕고, 제한된 시간 안에 더 많은 시도를 가능하게 만든다. 조직의 현장에서 이런 능력은 보고서 초안의 질을 일정 수준 이상으로 끌어올리거나, 고객 응대의 반응 시간을 줄이고, 오류 검출을 더욱 촘촘하게 설계하는 방향으로 나타나곤 한다.

이 과정은 흔히 “속도”와 “효율”의 문제로 이해된다. 이전에는 며칠이 걸리던 탐색과 조합, 요약과 초안화가 단 몇 분으로 줄면서, 실험의 횟수와 빈도가 늘어난다. 속도가 빨라진다고 해서 항상 질이 개선된다고 단정하기 어렵지만, 반복적인 과제에서 최소 기준을 꾸준히 맞추는 능력은 많은 경우 혁신의 기반을 다지는 데 긍정적으로 작용해 왔다. 이 점에서 AI는 기존 틀 안에서의 최적화, 다시 말해 범주 내 탐색을 가속하는 데 적합한 도구로 이해될 수 있다.

파괴적 혁신에서 AI 역할은 여전히 부족

그러나 속도의 증대가 곧 가치의 재정의를 의미하지는 않는다. 파괴적 혁신은 대체로 문제를 바라보는 틀을 바꾸는 데서 시작되며, 그 수준의 변화는 단순한 계산 능력이나 조합의 폭을 넓히는 것만으로 도달하기 어려운 경우가 많다. 

음악 산업에서 소유 중심의 소비가 경험 중심의 구독 모델로 옮겨 갔던 변화나, 이동 수단이 차량 자체에서 접근성·시간 이용·도시 정책과 연결된 서비스로 확장되어 간 흐름을 떠올려 보면, 기술의 진보가 중요한 동인이었음에도 불구하고 사용자 가치, 규제 환경, 사회적 수용성 같은 요인이 얽혀 있음을 확인하게 된다. 

데이터로 잘 포착되지 않는 규범과 평가의 문제, 이해관계의 조정, 책임의 귀속 방식은 여전히 사람의 판단과 설득, 그리고 제도적 합의라는 장치를 거칠 때 비로소 안정적인 질서로 자리 잡는 경향이 있다. AI가 그러한 과정을 전면적으로 주도한다고 보기에는 아직 여러 단서들이 부족하다.

새 질문을 만들고 결과에 책임지는 일은 여전히 인간의 책무

문제 설정의 단계에서도 유사한 관찰이 가능하다. 생성형 모델은 주어진 언어공간에서 유사한 과거 사례를 참조해 설득력 있는 응답을 구성하는 데 강점을 보이지만, 질문의 방향 자체를 바꾸거나, 측정되지 않던 가치를 새로 만들어야 하는 상황에서는 인간의 개입이 필요하다고 느껴지는 순간이 잦다. 

예컨대 특정 정책을 신청한 사람만 대상으로 하던 지원 방식을, 자격 요건이 확인되는 사람에게 먼저 안내하고 자동으로 집행하는 방식으로 바꾸는 결정은 데이터 작업의 문제가 아니라 제도 설계의 문제에 가깝다. 과연 누구에게 우선권을 둘 것인지, 누락과 과다 지급의 위험을 어떻게 사회적으로 감내할 것인지, 행정의 책임을 어디까지 물을지와 같은 질문은, 계산의 정확성만으로는 답하기 어렵다. 

이런 장면에서 사람은 단지 “마지막 승인자”라기보다, 가치 갈등을 드러내고 조정하는 역할을 맡게 된다. 새 질문을 만드는 일, 새로운 지표를 제안하는 일, 설계된 결과에 대한 책임을 지는 일은 지금으로서는 인간에게 기대되는 책무에 더 가까워 보인다.

그래도 AI는 비교할 만한 다양한 선택지를 제공한다

그렇다고 해서 AI가 파괴적 혁신의 여정에서 주변에 놓여 있다는 뜻은 아니다. 아직 이름 붙지 못한 가능성을 탐색하는 데에도, 언어 모델은 다양한 가설을 빠르게 전개해 사고의 폭을 넓히는 데에도 기여할 수 있다. 방향성이 완성되지 않은 아이디어일수록 많은 변주가 필요하고, 초기에는 정답보다 비교 가능한 선택지가 많을수록 좋다. 여러 대안을 동시에 펼쳐 보이고, 각 대안의 장단점을 일관된 틀로 요약하는 능력은 사람이 내리는 판단을 돕는다. 

다만 이런 도움은 어디까지나 판단을 보조하는 성격에 머무는 경우가 많고, 최종적으로 무엇을 시도할지, 어떤 위험을 감수할지, 그 결과가 초래할 의도치 않은 효과를 어떻게 관리할지는 조직과 사회가 함께 논의해야 할 과제로 남는다.

품질-비용-속도, 개념-규범-서사를 조율하는 역량이 경쟁력

조직의 차원에서 보면, 인간과 AI의 역할 분담은 한 가지 리듬으로 수렴되기보다는 두 가지 리듬을 번갈아 탈 가능성이 높다. 하나는 데이터와 자동화를 중심으로 품질과 비용, 속도를 개선하는 리듬이고, 다른 하나는 개념과 규범, 서사를 중심으로 방향을 조정하는 리듬이다. 

전자의 리듬에서는 실험과 측정이 비교적 명확한 지표들, 예컨대 정확도나 처리 시간, 결함률, 단가 같은 수치들로 수렴하는 편이다. 후자의 리듬에서는 문제의 정의와 성공의 기준을 다시 정리하는 일이 중요해지고, 새로운 지표의 도입이나 기존 지표의 폐기처럼 측정 자체를 재설계하는 과정이 동반된다. 어느 한 쪽만으로는 지속적 변화를 설명하기 어렵고, 두 리듬을 상황에 맞게 조율하는 역량이 앞으로의 경쟁력을 좌우할 가능성이 있다.

사회적 비용을 누가 감당할지는 기술이 아니라 판단의 문제

윤리와 책임의 문제는 별도의 항목으로 분리하기보다 전 과정에 스며 있는 조건으로 다루는 편이 더 적절해 보인다. 모델의 성과가 좋아질수록, 그 결과를 신뢰 가능한 형태로 공개하고 설명하는 관행이 중요해진다. 결과가 어느 근거에 기대고 있는지, 어떤 데이터 편향에 취약할 수 있는지, 목적 외 사용이 무엇을 초래할 수 있는지를 이해관계자들과 충분히 소통하는 일이 필요하다. 

이 지점은 종종 기술의 문제가 아니라 제도의 문제로 이어지며, 책임의 위치를 사람에게 명확히 두는 설계가 신뢰를 형성하는 데 의미가 있다는 의견이 적지 않다. 결국 어떤 결정을 내렸을 때 그 결정의 사회적 비용을 누가 감당할지 묻는 순간, 조직은 기술이 아닌 판단의 언어로 돌아가게 마련이다.

AI가 속도를 높일 때 인간은 방향을 가다듬는다

이 모든 논의를 종합하면, AI가 혁신을 “주도”한다는 표현은 문맥에 따라 서로 다른 의미로 읽힐 수 있다. 성능의 향상과 실행의 가속이라는 차원에서 보면, AI가 주도적 역할을 맡는 장면이 늘어날 가능성이 있다. 반면, 무엇을 가치로 삼을지, 어떤 문제를 우선할지, 어떤 실패를 감수할지 같은 질문의 차원에서는 인간의 개입이 줄어들지 않을 것이라는 전망이 설득력을 얻는다. 

한편, 두 차원이 실제의 변화 속에서 완전히 분리되어 움직이지는 않음으로, 사람과 AI가 서로 다른 강점을 교차시키며 새로운 조합을 만들어 내는 사례도 점차 늘어날 수 있다. 이를 가리켜 증강된 혁신이라는 표현을 쓰는 이들도 있는데, 이 말은 기술 중심의 자동화가 아니라 인간 중심의 설계를 전제로 할 때에만 그 의미가 분명해진다.

결국 앞으로의 과제는 “누가 혁신을 주도하는가”를 단정하기보다 “어떤 장면에서 무엇이 혁신을 가능하게 하는가”를 세밀하게 묻는 데 가까울지 모른다. AI가 만들어 주는 시간과 자원을 어디에 배분할지, 사람의 판단이 개입해야 하는 지점을 어떻게 더 명확하게 정의할지, 제도와 문화가 그 판단을 어떻게 지지할지 같은 질문은 당분간 이어질 것이다. 

혁신은 종종 기술에서 출발하지만, 의미를 얻는 과정은 사람과 제도가 함께 완성해 간다. 지금 필요한 것은 그 두 과정이 서로를 소진시키지 않도록 리듬을 조율하는 일일지 모른다. AI가 속도를 높일 때 인간은 방향을 가다듬고, 인간이 방향을 재설계할 때 AI는 실행을 정교화한다는 상호작용을 염두에 두는 것, 그 정도의 신중함이 당분간은 가장 현실적인 답에 가까울 것이다.

***

조인호 대표의 [시민형 AI] 기사들

① 소버린 AI를 채우는 민주적 장치

② 지식의 불확정성을 알고 나면

③ 관점이 다른 지식들의 집합이자 민주적 공론장의 시뮬레이터

④ 인공지능, 물리적 현실과 만나고 사회문제 해결의 새 지평을 열다

⑤ 국지성 기상 이변 대응의 새 해법