최근 몇 년 동안 인공지능(AI) 기술은 놀라운 속도로 발전하며 우리 일상과 산업 전반에 깊이 파고들었습니다. ChatGPT, DALL-E, Midjourney와 같은 생성형 AI는 텍스트 작성, 이미지 생성, 코드 작성 등 다양한 분야에서 인간 수준의 결과물을 만들어내고 있습니다. 그러나 이러한 기술적 진보에 따라 AI의 윤리적 측면에 대한 우려와 비판도 함께 증가하고 있습니다.
AI 반대론은 주로 좌파 진영에서 힘을 얻고 있는데, 이들은 AI가 표절이며, 인간의 실제 성장을 저해하고, 환경을 파괴하며, 예술가와 창작자들의 직업을 위협한다고 주장합니다. 이런 반대론이 등장한 배경에는 빅테크 기업들에 대한 전반적인 불신과 암호화폐 붐에 이어 등장한 AI 열풍이 비슷한 양상을 보인다는 인식이 자리하고 있습니다.
이 글에서는 AI 사용에 대한 주요 반대 논쟁들을 살펴보고, 각 논쟁에 대한 양측의 주장을 균형 있게 살펴보겠습니다. 이를 통해 AI 기술을 사용하는 우리 모두가 윤리적 측면을 더 깊이 이해하고 성찰할 수 있는 기회를 제공하고자 합니다.
AI와 표절 논쟁: 저작권 침해인가, 공정 사용인가?
AI가 표절이라는 주장은 크게 두 가지 방향에서 제기됩니다.
1. AI가 저작권 보호 콘텐츠를 재생산한다는 주장
AI 모델이 학습 데이터에 포함된 저작권 보호 콘텐츠를 그대로 재생산할 수 있다는 우려가 있습니다. 이 경우 사용자가 AI가 생성한 콘텐츠를 자신의 것처럼 사용한다면 표절에 해당할 수 있습니다.
그러나 AI 기업들은 이런 일이 실제로는 거의 발생하지 않는다고 반박합니다. 대부분의 현대 AI 시스템은 저작권 보호를 위한 안전장치가 내장되어 있어 직접적인 복제를 방지합니다. 또한 사용자가 특정 저작물을 복제해달라고 명시적으로 요청하거나 저작물의 첫 부분을 입력하지 않는 한, AI가 저작권 보호 콘텐츠를 그대로 출력할 가능성은 매우 낮습니다.
더욱이 AI를 사용하는 방식은 다양합니다. 통계학을 배우는 최선의 방법을 AI에게 물어보거나, 자신이 작성한 글의 어색한 표현을 점검하는 등의 AI 활용 방식은 표절과는 거리가 멉니다.
2. AI 학습 자체가 저작권 침해라는 주장
더 근본적인 주장은 저작권이 있는 콘텐츠로 AI를 학습시키는 행위 자체가 저작권 침해라는 것입니다. 이 관점에서는 AI가 학습한 내용을 바탕으로 생성한 모든 콘텐츠가 간접적으로 표절의 결과물이 됩니다.
이에 대한 반론은 AI의 학습 방식이 인간이 책을 읽고 배우는 것과 유사하다는 점입니다. 인간이 여러 책을 읽고 그로부터 얻은 지식을 다른 사람들에게 설명해주는 것은 윤리적으로 문제가 없습니다. 그렇다면 AI가 동일한 목적으로 책 내용을 ‘읽는’ 것이 왜 다르게 취급되어야 하는지에 대한 의문이 제기됩니다.
미국 도서관 저작권 협회(Library Copyright Alliance)는 “저작권으로 보호된 저작물을 활용해 대규모 언어 모델이나 AI 학습 데이터베이스를 만드는 것은 일반적으로 ‘공정 사용'(fair use)에 해당한다”고 주장합니다. 이는 미국 법원이 Authors Guild v. HathiTrust 및 Authors Guild v. Google 사례에서 확립한 선례에 기반합니다. 이 판례에서는 저작권이 있는 서적을 대량으로 디지털화하여 새로운 정보를 추출하는 행위가 공정 사용에 해당한다고 판단했습니다.
스탠포드 로스쿨의 법학 교수 마크 렘리(Mark Lemley)는 “AI는 작가나 예술가와 경쟁하는 것이 아니라 그들의 작품을 완전히 다른 방식으로 활용하는 것이다. AI 시스템은 법이 보호하는 창의적 표현을 얻기 위해 저작물을 복사하는 것이 아니라, 저작권으로 보호되지 않는 부분—아이디어, 사실, 언어 구조—에 접근하기 위해 복사한다”고 주장합니다.
그러나 가장 설득력 있는 반대 논거는 AI가 보편적으로 사용가능해진 세상에서는 사람들이 전문가가 집필한 책을 구매하고 읽을 이유가 줄어든다는 점입니다. AI가 무료로 어떤 개념이든 설명해준다면, 그런 개념을 설명하는 책을 구매할 가능성이 줄어들게 됩니다. 이는 전문가들의 생계에 직접적인 영향을 미칠 수 있으며, 궁극적으로는 AI가 의존하는 지식 생태계 자체를 위협할 수 있습니다.
AI와 인간 능력의 퇴화: 디지털 목발인가, 인지 확장인가?
두 번째 주요 반대론은 AI가 인간의 학습 능력을 저해한다는 주장입니다. AI가 이메일 작성이나 문제 해결, 예술 작품 생성 등을 대신해주면 할수록 인간의 자연적인 능력이 퇴화한다는 우려입니다.
이는 사실 매우 오래된 논쟁을 떠올리게 합니다. 기원전 370년경 플라톤은 ‘파이드로스‘에서 글을 읽는 법을 배우는 것이 사람들의 기억력 훈련 필요성을 제거함으로써 해롭다고 주장했습니다. 플라톤 이후로도 현명한 사람들은 영어로 글쓰기(라틴어 대신), 계산기, 컴퓨터, 인터넷에 대해 동일한 우려를 표명해왔습니다.
이런 기술들이 등장할 때마다 같은 우려가 제기되었지만, 인류는 그럼에도 지식의 경계를 계속 넓혀왔습니다. 플라톤보다 현대인의 암산 능력이 떨어질 수 있지만, 우리는 플라톤이 상상하지 못했던 복잡한 문제들을 해결하고 있습니다.
AI가 인간의 학습을 방해하는지 여부는 아직 결론을 내리기에 이릅니다. 개인적인 경험으로는 AI 모델에 질문함으로써 훨씬 빠르게 많은 것을 배울 수 있었다는 의견도 있습니다. 반면 Copilot과 같은 도구는 프로그래밍 언어 보일러플레이트를 기억하는 능력을 저하시킬 수 있다는 우려도 있습니다.
최근의 연구들은 아직 결정적인 결론을 내리지 못하고 있습니다. AI가 학습에 미치는 영향을 평가하기 위한 더 많은 연구가 필요한 상황입니다.
AI와 환경 영향: 에너지 소비와 기술낙관주의
세 번째 주요 반대론은 AI가 환경에 미치는 부정적 영향에 관한 것입니다. 암호화폐 채굴에 대해 제기되었던 비판과 유사하게, AI 학습과 추론은 일반 소프트웨어 실행보다 훨씬 많은 에너지를 필요로 합니다. 이는 GPU에서 많은 연산을 필요로 하기 때문입니다. 이러한 에너지 소비가 기후 변화를 가속화한다는 우려가 있습니다.
탈성장 vs 기술낙관주의
AI 지지자들은 대부분의 AI 데이터센터가 “청정 에너지”로 구동된다고 반박합니다. 실제로 대부분의 AI 기업들은 데이터센터 확장이 재생 에너지원에 의해 구동된다고 말합니다(예외적으로 xAI는 제외).
가장 낙관적인 AI 지지 입장은 AI가 청정 에너지에 대한 대규모 투자를 촉진하기 때문에 오히려 환경에 좋다는 것입니다. 최근 Mitchell Hashimoto의 인기 트윗에 따르면, AI 수요로 인해 미국의 계획된 원자력 발전소 건설이 지난 18개월 동안 20배 증가했다고 합니다.
그러나 AI 반대론자들은 대형 기업의 청정 에너지 약속에 대해 의심스러운 시각을 가지고 있습니다. 여기서 큰 분기점은 ‘탈성장'(degrowth)을 지지하는 이들과 ‘기술낙관주의자'(techno-optimists) 사이의 견해 차이입니다. 탈성장론자들은 인류가 전반적으로 에너지 소비를 줄여야 한다고 믿는 반면, 기술낙관주의자들은 새로운 기술(개선된 태양광, 원자력 등)이 탄소 배출을 줄이면서도 에너지 소비를 증가시킬 수 있다고 믿습니다.
AI의 에너지 소비는 얼마나 심각한가?
AI의 환경적 영향에 대한 많은 비판은 다른 AI 반대 논쟁에 의존하는 경향이 있습니다. 만약 AI가 암 연구처럼 명백히 유용하고 좋다면, 그 기후 영향은 암 연구의 영향처럼 감수할 만한 가치가 있을 것입니다. 그러나 AI가 근본적으로 해롭거나 표절적이라면, 현재 에너지 사용량의 10분의 1을 사용하더라도 그 에너지 낭비는 여전히 문제가 될 것입니다.
예를 들어, ChatGPT에 질문하는 데 500ml의 물이 든다는 주장이 있습니다. 그러나 햄버거 한 개의 물 소비량은 2,000-3,000리터로, ChatGPT 질문의 약 4,000배에 달합니다. ChatGPT의 물 사용량에 대해 분노하면서도 햄버거를 먹는 사람들이 반드시 위선적인 것은 아니지만, 이는 환경적 주장이 AI에 반대하는 ‘주된’ 이유가 아님을 보여줍니다.
AI가 암 연구를 가속화하거나 세계에 다른 심각한 이점을 제공할지는 아직 누구도 확실히 알 수 없습니다. 그러나 가능성은 존재합니다. 현재 AI가 쓸모없다고 여기더라도, 잠재적인 미래 이익 때문에 에너지가 낭비되지 않는다고 생각할 수 있습니다.
AI와 예술의 미래: 창작자의 생계와 예술의 본질
네 번째 주요 반대론은 AI 사용이 예술가(또는 예술 자체)에 대한 불경이라는 주장입니다. 최근 소셜 미디어에서 유행했던 지브리 스튜디오 스타일의 AI 생성 이미지에 대한 반발이 대표적인 예입니다.
생계 수단으로서의 예술
AI가 예술에 해롭다고 생각하는 한 가지 이유는 예술가들의 생계를 위협할 수 있다는 점입니다. 많은 독립 예술가들이 의뢰를 받아 특정 작품을 그리는 일로 생계를 유지하고 있는데, 이제 클라이언트들은 GPT-4o와 같은 멀티모달 모델에게 이미지 생성을 요청하고 있습니다. AI 생성 이미지에는 자체적인 문제가 있지만, 무료이고 거의 즉각적으로 생성된다는 사실과 경쟁하기는 어렵습니다.
이는 합리적인 주장입니다. 하지만 AI가 프로그래머의 생계도 위협하고 있다는 점에 주목할 필요가 있습니다. 적어도 AI를 지지하는 프로그래머들은 자신들의 직업도 자동화될 것이라는 점에서 용기 있는 입장을 취하고 있습니다.
예술 자체의 가치
또 다른 AI 반대 주장은 AI가 예술에 대한 대중의 수요를 영혼 없는 컴퓨터 생성 쓰레기로 채움으로써 ‘예술 자체’를 파괴한다는 것입니다.
이에 대한 AI 지지 반론은 AI가 사진이나 디지털 미디어처럼 또 다른 도구에 불과하다는 것입니다. 이들 도구도 처음에는 예술을 파괴한다고 여겨졌지만 시간이 지나면서 예술의 일부로 받아들여졌습니다. 1859년, 보들레르는 유명하게도 사진이 “예술의 가장 치명적인 적”이라고 썼습니다:
“이 산업[사진]은 예술의 영역을 침범함으로써 예술의 가장 치명적인 적이 되었다… 만약 사진이 예술의 일부 기능을 보완하도록 허용된다면, 곧 예술을 완전히 대체하거나 타락시킬 것이다”
오늘날 아무도 사진이 예술을 파괴한다고 걱정하지 않습니다. 오히려 사진은 그 자체로 예술의 한 형태로 간주되며, 종종 다양한 매체의 예술 작품에 통합됩니다. AI 생성 예술도 결국 사진처럼 볼 수 있을까요? 회화와 같은 예술 형태보다는 더 접근하기 쉽지만, 자체적인 고급 문화 영역을 가진 형태로 말입니다.
개인적으로, 어떤 기술적 혁신도 예술을 죽이거나 타락시킬 수 있다는 주장은 설득력이 떨어집니다. 예술은 항상 현 시대의 기술을 활용하거나 전복시키는 방법을 찾아왔습니다.
균형 잡힌 관점: AI 사용의 윤리적 고려사항
지금까지 살펴본 AI 사용에 대한 주요 반대 논쟁과 그에 대한 반론을 정리해보면 다음과 같습니다:
- AI는 저작권 보호 콘텐츠를 재생산하는 표절이다
- 반론: AI 기업들의 노력으로 실제로는 거의 발생하지 않음
- 반론: AI 작업을 자신의 것으로 전달하는 것은 이미 잘못된 행위
- AI 학습 자체가 저작권이 있는 콘텐츠에 대한 도둑질이다
- 반론: 인간이 저작권 보호 콘텐츠에서 배우는 것과 AI가 배우는 것 사이에 무슨 차이가 있는가?
- 반론: AI는 창의적 표현이 아닌 아이디어와 사실을 학습함
- AI는 인간의 학습이나 기술 발전을 방해한다
- 반론: 사람들은 수천 년 전에도 문자에 대해 같은 말을 했고, 인간은 적응해왔음
- 반론: 연구 결과는 아직 결정적이지 않음
- AI는 환경을 파괴한다
- 반론: 대부분의 AI 데이터센터는 재생 에너지로 구동됨
- 반론: AI 수요가 청정 에너지 건설과 연구의 급증을 주도하고 있음
- 반론: AI가 가치 있다고 생각한다면 에너지 비용을 더 기꺼이 수용할 수 있음
- AI는 예술가들의 생계를 파괴한다
- 인정: 공정한 지적이지만, 기술은 항상 그래왔음. 프로그래머도 자동화될 것임
- AI는 예술 자체를 파괴한다
- 반론: 사람들은 사진에 대해서도 이렇게 말했지만, 예술은 사라지지 않았음
가장 강력한 AI 반대 논쟁은 다음과 같다고 볼 수 있습니다:
- AI는 많은 창작자들의 생계를 파괴할 수 있으며, 이는 AI 학습이 그 창작물에 의존하기 때문에 불공정하다.
- AI는 많은 에너지를 소비하며(대부분 청정 에너지라 하더라도), 이는 인류가 전반적으로 에너지 소비를 줄여야 한다고 생각하는 사람들에게는 문제가 된다.
결론: 윤리적 AI 사용을 위한 성찰
AI 사용에 대한 반대 의견들은 충분히 강력하지만, 그렇다고 해서 AI 반대론의 열정을 완전히 정당화하기에는 부족할 수 있습니다. 많은 반발이 기술 기업들에 대한 혐오감과 최신 기술 유행에 대한 선입견에 의해 주도되는 것으로 보입니다.
그러나 이 논쟁은 AI 기술을 사용하는 우리 모두에게 중요한 윤리적 질문을 제기합니다:
- 우리는 AI가 생성한 콘텐츠를 어떻게 적절하게 사용하고 표시해야 하는가?
- 창작자들은 자신의 작품이 AI 훈련에 사용되는 것에 대해 동의할 권리가 있는가?
- AI를 사용하면서 우리 자신의 능력이 퇴화하지 않도록 어떻게 균형을 유지할 수 있는가?
- AI의 환경 영향을 최소화하면서 그 이점을 극대화하는 방법은 무엇인가?
- 예술가와 창작자들이 AI 시대에서도 번창할 수 있는 새로운 경제 모델은 무엇인가?
이러한 질문들에 대한 답변은 쉽지 않고, 때로는 개인이나 사회의 가치관에 따라 다를 수 있습니다. 그러나 이러한 질문들을 성찰하고 토론하는 것은 우리가 AI 기술을 더 윤리적이고 책임감 있게 사용하는 데 도움이 될 것입니다.
AI 기술은 이미 우리 삶의 많은 부분에 깊이 스며들었으며, 앞으로도 계속 발전할 것입니다. 중요한 것은 이 기술을 무조건적으로 수용하거나 거부하는 것이 아니라, 그 영향을 비판적으로 평가하고 모든 사람에게 이익이 되는 방향으로 사용하는 방법을 찾는 것입니다.
여러분은 AI 사용에 대한 윤리적 측면에 대해 어떻게 생각하시나요? 이 글에서 다룬 논쟁들 중 어떤 점이 가장 공감되거나 또는 동의하기 어려운 부분인가요? 아래 댓글로 여러분의 생각을 나눠주세요.
Comments