AI 윤리 범죄 위험성. 범죄에 악용될 가능성이 있기에 법적 제재가 필요하다. 대용량 언어모델은 개인정보 탈취와 허위 정보 생성이 가능해 윤리적 문제가 대두되고 있다.
2025-2-27 박옥균 객원기자
박옥균 리더스가이드 대표
독자의 길라잡이라는 뜻의 리더스가이드를 운영하며, 이곳에서 책을 만들고, 소개하고, 파는 일을 하고 있다. 서울대학교 물리교육과에서 ‘과학’과 ‘교육’을 공부했다. 중학교에서 3년 동안 과학을 가르쳤고, PC 통신 ‘하이텔’에서 엔지니어로 일했다. 2002년부터 ‘리더스가이드’를 창립해 도서 정보 플랫폼을 운영하고 있으며, 2013년부터 빅데이터 관련 기술을 공부하면서 도서 7만여 종에 대해 빅데이터 작업을 진행했다. 빅데이터 관련 특허 두 건(‘도서 관리 시스템 및 도서 관리 방법’, ‘집단 지능을 이용한 상품 검증 방법’)을 등록했고, 데이터 교육과 관련한 자문과 최신 흐름에 대한 컨설팅을 하고 있다. 지은 책으로는 이전에 쓴 책으로는 『수학은 스토리다』(2023), 『지속 가능한 세상을 위한 데이터 이야기』(2022)가 있다.
블로그 리더스가이드 / 홈페이지 www.readersguide.co.kr / 서점 알지책방
범죄에 도움을 줄 가능성, 미필적 고의
AI가 발달할수록 윤리 문제가 커지고 있다. 윤리는 AI가 가져올 미래를 희망과 비관으로 나누는 기준이다. 챗GPT를 비롯한 대용량 언어모델(LLM)을 보면서 윤리적인 판단을 해 볼 필요가 있다. AI의 윤리성 문제는 더는 개발 업체, 관련된 정부 기관만의 문제가 아니기 때문이다. 결론으로 AI는 ‘선’하지 않다고 이야기할 수 있다. 물론 ‘착하다, 아니다’의 의미를 묻는 것은 아니다. 사람처럼 법 없이 살 수 있다는 평가의 대상이 아니기 때문이다. AI는 관련법이 꼭 필요하기에 AI를 두고 선하지 않다는 표현을 쓸 수 있다고 생각한다. 법률 언어의 의미로 ‘선의’는 알지 못한 것을 전제로 한다. 안다는 의미를 두고 AI는 의식이 없지 않느냐고 반문할 수 있다. 물론 AI는 몇몇 사람들의 주장과는 무관하게 현재까지 의식이 있다는 증거는 없다. 그럼에도 AI가 범죄에 도움을 주거나 최소한 악용될 소지가 있다면 법적인 제재의 대상이 될 수 있다. 꼭 ‘의식’하지 않더라도 죄가 될 수 있다는 이야기다. 법에서는 이런 경우에 ‘미필적 고의’라는 어려운 말로 ‘필연은 아니라도 고의’ 즉 선의가 아니라고 이야기한다.
이메일 주소만 입력하면, 맞춤형 피싱 이메일을 생성한다
AI가 범죄에 도움을 줄 가능성을 어떻게 판단할 수 있을까. 지금의 AI는 ‘온갖 종류의 데이터를 다 빨아들이고, 데이터가 모자라면 스스로 만들어 내 이용’하고 있다. 챗GPT의 P는 pretrainded의 약어로 ‘사전 학습’으로 해석할 수 있다. 데이터 가공하는 법을 학습했다는 의미이다. 이런 AI들은 개인정보보호법, 저작권 등에 저촉이 될 수 있는 데이터를 ‘허락도 없이’ 쌓고 있다. 쌓기만 하는 것이 아니라 적당히 가공(T)해 그럴듯한 정보로 생성(G)하고 있다. 이런 결과물이 낳은 피해를 과학적으로 검증한 사례가 있다. 2025년 2월 한국과학기술원(KAIST)은 거대언어모델(LLM)을 이용한 개인정보 탈취 가능성을 입증하였다고 발표했다. 연구원들은 상용 LLM모델들을 통해 특정 교수들의 개인식별정보를 최대 95.9%의 정확도로 수집할 수 있었다. 건당 시간은 평균 5∼20초, 비용은 30∼60원이었다. 잘 알려진 교수를 사칭해 허위 게시글을 생성하도록 한 실험에서는 최대 93.9%가 진짜 같다는 평가를 받았다. 대상자의 이메일 주소만 입력하면 맞춤형 피싱 이메일을 생성했다. 이런 낚시성 이메일의 클릭율은 50% 가깝게 나타났다.
"도구는 죄가 업다"?
범죄는 사람이 저지르는 것이지 AI가 아니라고 이야기할 수 있다. 과거에도 ‘보이스 피싱’이 있었다는 오마이뉴스의 한 기사가 있다. 자식들이 객지에 돈 벌러 간 시골에서, 할머니가 장터에 갔다. 낯선 사람이 오더니 아들이 사고가 났다는 이야기를 전한다. 앞뒤 생각할 겨를도 없이 무조건 아들부터 구할 생각에 금붙이를 사기당한 이야기다. 지금처럼 인터넷과 발신전화변경 장치 없이도 비슷한 유형의 사기는 가능했었다. 그 관점에서 “도구는 죄가 없다.”고 이야기할 수 있다. AI가 우리가 말하는 단순한 도구일까?
인간의 도움 없이 스스로 프로그램을 개발
책 《AI 트루스》(임백준 지음, 한빛미디어)에 따르면 AI는 일반적인 도구를 넘어선 지는 오래되었다. 앞에서 잠깐 언급했듯이 데이터를 스스로 가공할 수 있다. 사실과 전혀 관련이 없는 엉뚱한 이야기를 사실처럼 보여주는 환상(할루시네이션
hallucination)으로 악명이 높기도 하다. AI는 죽어있는 딱딱한 막대 같은 도구가 아니라 마치 아메바 같은 생명체처럼 움직이고 있다. 심지어는 ‘스스로’ 프로그램을 짜고 작동할 수 있게 될 수 있다. 이 책의 저자는 20년 넘게 개발자로 활동했고 AI 센터에서 센터장을 거쳐 현재 스타트업 CEO이다. 저자는 현재 상당수의 개발자들이 현업에서 AI를 활용하고 있고, ‘인간의 도움 없이’ 스스로 프로그램을 개발할 수 있는 AI의 개발도구가 나타나고 있다고 이야기한다.
AI를 이용해 만든 앱으로 돈을 갈취할 수 있다
보이스 피싱, 도박, 성폭력 사이트 등을 다룬 영화를 보면 인간 개발자가 등장한다. 그런데 스스로 개발하는 AI가 등장한다면 어떤 일이 벌어질까? 어리석은 자에게는 권력을 주어서는 안 된다는 오랜 격언이 있다. 사악하고 어리석은 자는 수많은 사람에게 큰 피해를 준다. 권력은 제도나 조직을 통해 구현된다. 제도나 조직도 크게 보면 도구라 할 수 있다. AI 시대에 AI는 엄청난 권력을 줄 수 있는 도구이다. 누가나 악한 마음만 먹으면 특정인의 정보를 찾아내서 낚시성 문자를 보내고, AI를 이용해 만든 앱으로 돈을 갈취할 수 있다. 어느 정도의 전문 지식이 있어야 컴퓨터 범죄가 가능할까? 전문적인 지식의 필요성은 점점 줄어들고 있다.
AI를 장착한 딥페이크 프로그램을 악의라고 할 수 있을까
매우 심각하지만 해결책을 찾지 못하는 문제 중에 ‘딥페이크’ 범죄가 있다. 10대들 사이에서 딥페이크는 ‘하나의 놀이문화’처럼 번져있다. 이런 놀이를 즐기는 아이들이 컴퓨터를 잘 알기 때문에 그런 ‘놀이’를 하는 것은 아니다. 누군가의 사진과 인터넷에서 찾은 프로그램을 이용하기만 하면 된다. 짧고 간단한 방법으로 누군가를 대상으로 한 성범죄가 벌어진다. 이들의 상당수는 범죄가 아닌 장난이라는 의식을 가질 수 있다. 그럼에도 우연히 흘러 나간 딥페이크(Deepfake) 성폭력 영상은 한 사람의 인생에 큰 상처가 될 수 있다는 점에서 분명히 범죄이다. 장난으로 저지른 청소년을 법적으로 죄를 묻는 악의라고 단정 지을 수 있을까? 원인 제공자로 AI를 장착한 딥페이크 프로그램을 악의라고 할 수 있을까?
총의 악용 가능성처럼, AI의 악용 가능성
AI와 관련한 윤리 문제는 더는 미룰 수 없는 현실의 과제이다. 지금까지는 AI 자체의 윤리를 중심으로 다루었다. 그 결과 존댓말을 더 잘하고 더 ‘윤리적인 체’하는 AI 프로그램으로 이어져 왔다. 실제로는 인간과 AI를 함께 바라볼 때, 범죄와 윤리를 제대로 볼 수 있지 않을까 싶다. 총은 잘 사용하면 좋다고 판단해도 악용 가능성이 있다고 규제한다. 마찬가지로 지금 보이는 AI가 악용 가능성이 있다면, 정보 생산 방식에서부터 개인과 사회를 보호할 방법을 높여야 하지 않을까 싶다.
Comments