“더 열심히가 아닌, 더 똑똑하게 일하자”는 말은 이제 진부한 문구가 되었습니다. 하지만 두 명의 21세 컬럼비아 대학 중퇴생들은 여기서 한 걸음 더 나아가 새로운 슬로건을 제시했습니다. “AI로 모든 것에서 부정행위를 하자(cheat on everything).” 5.3백만 달러(약 72억 원)의 투자금을 유치한 이 스타트업 ‘Cluely’의 과감한 도전은 과연 성공할 수 있을까요?
“모든 것에서 부정행위하자”는 대담한 선언
Cluely의 온라인 선언문에는 명확하게 적혀 있습니다. “우리는 모든 것에서 부정행위를 하고 싶다.” 우리가 알고 있는 일반적인 AI 챗봇과 달리, Cluely는 “가상 회의, 영업 통화 등에서 사용할 수 있는 감지 불가능한 AI 비서”라고 자신을 소개합니다. 이 도구는 사용자의 화면을 읽고, 오디오를 듣고, 실시간으로 질문에 대한 답변이나 스마트한 반응을 비밀리에 제공한다고 주장합니다.
출처: The Verge
즉, 다음번 팀 미팅, 취업 인터뷰, 영업 통화, 온라인 시험에서 여러분은 AI 덕분에 더 똑똑해 보일 것이고, 아무도 그것을 알아차리지 못할 것이라고 Cluely는 약속합니다.
“당신이 무언가를 판매하려 할 때, 이 도구가 상대방에 대한 모든 세부 정보, 그들의 직업적 삶, 당신과 당신의 회사에 대해 알고 있다고 상상해보세요. 마치 10시간의 연구를 한 것처럼, 그들이 묻는 모든 질문, 직면하는 모든 이의에 대해 즉시 답변을 가질 수 있습니다,” Cluely의 공동 창업자 이충인(Roy Lee)은 The Verge와의 인터뷰에서 이렇게 말했습니다.
논란의 배경과 화제가 된 광고
이충인은 이전 프로젝트인 ‘Interview Coder’로 최근 화제가 되었습니다. 프로그래머들이 구직 인터뷰에서 기술 테스트 중 AI 챗봇을 몰래 사용할 수 있도록 도와주는 이 앱으로 아마존 인턴십에 합격했다고 공개적으로 자랑했죠. 그는 이 과정을 모두 기록하고 포스팅했으며, 이 사건으로 컬럼비아 대학에서 정학을 당했습니다. (그와 공동 창업자 닐 샤무간은 결국 징계 절차 중에 자퇴를 결정했습니다.)
더 놀라운 것은 주말에 공개된 Cluely의 6자리 광고입니다. 이충인이 출연한 이 광고에서, 그는 Cluely를 사용해 자신의 데이트 상대에게 30세 시니어 소프트웨어 엔지니어인 척하는 모습을 보여줍니다. 그는 AR 디스플레이를 통해 실시간으로 상대방의 말을 분석하고, 자신의 데이트 프로필과 그녀의 질문에 대한 답변을 시각적 참조로 제공받습니다.
이 ‘블랙 미러’스러운 광고는 “모든 것에서 부정행위하기”가 어떤 모습인지에 대한 이충인의 엘리베이터 피치입니다. 기술적 인터뷰에서 멈출 필요가 있을까요? AI 윙맨이 있다면 말이죠!
The Verge의 테스트: 비전과 현실의 큰 간극
The Verge의 기자는 이충인과의 줌 통화에서 Cluely를 직접 테스트해보았습니다. 하지만 현실은 광고와 상당히 달랐습니다.
출처: The Verge
광고에서 Cluely는 마법처럼 작동합니다. 상황 맥락을 즉시 이해하고 사용자는 아무것도 할 필요가 없죠. 하지만 현실에서는 통화 첫 몇 분을 Cluely 관련 오디오 문제 해결에 소비했습니다. AI는 통화 전에 약간의 맥락을 제공했음에도 불구하고 기자가 알아야 할 것을 직관적으로 파악하지 못했습니다.
시끄러운 기계식 키보드로 프롬프트를 입력할 때는 조용히 할 수 없었습니다. 몇 번 시도했을 때, 기자의 눈이 화면 옆으로 방황하는 것이 분명히 보였습니다. 그리고 프롬프트를 보낼 때마다, AI는 응답을 생성하는 데 영원히걸렸습니다.
이충인도 이러한 결함들을 인정했습니다. “지금 제품은 가장 초기 단계입니다. 몇 주 만에 개발된 개념 증명보다 조금 더 나아간 상태죠. 비디오는 제품 출시가 아니라 비전의 출시였습니다.”
AI의 문제: 비전 부족이 아닌 실행의 문제
AI의 문제는 비전 부족이 아닙니다. 문제는 실행에 있습니다. 형편없는 실행은 거의 항상 기술 창업자들이 판매하는 미래 기술의 환상을 깨뜨립니다. Cluely도 예외는 아닙니다.
The Verge의 기자가 Cluely를 배우자에게 보여주자, 배우자는 의아한 눈썹을 들며 물었습니다. “왜 그냥 구글을 사용하지 않지?”
“구글 대신 AI를 사용하는 이유는 꽤 명백합니다. AI는 그냥 구글보다 더 나은 답변을 줄 것이고, 만약 사람들이 그렇게 생각하지 않는다면, 그냥 구글을 사용하면 됩니다.” 이충인의 답변은 AI 친구가 항상 당신보다 더 똑똑하고, 더 빠르고, 더 재치 있다면 합리적일 수 있습니다. 하지만 그렇지 않다면 어떨까요? 만약 그것이 지루하고, 느리거나, 이해력이 당신보다 떨어진다면?
실제 테스트: 민망한 순간들
기사에 따르면, The Verge의 기자는 편집자와 실제 팀 미팅에서 Cluely를 사용해보았습니다. 둘 다 순조롭게 진행되지 않았습니다.
편집자와의 대화에서는 비슷한 기술적 문제가 있었지만, 공유된 관심사에 대한 편안한 대화에서는 지연 시간이 큰 문제가 되지 않았습니다. 편집자가 K-팝 그룹 블랙핑크의 솔로 커리어, 특히 제니의 최근 코첼라 공연에 대해 어떻게 생각하는지 물었을 때, 다행히 기자는 이미 많은 생각을 가지고 있었지만 그래도 Cluely에 프롬프트를 입력했습니다.
그러나 Cluely는 기자가 이미 진짜 의견을 공유한 90초 후에 유명인이 창의적으로 자신을 표현하는 것을 보는 것이 얼마나 멋진지에 대한 일반적이고 딱딱하게 표현된 답변을 내놓았습니다. 인터뷰에서 90초의 침묵은 영원과도 같죠.
미팅에서는 기자가 동료들에게 미리 Cluely를 사용해도 괜찮은지 물어봐야 했습니다. _부정행위_는 정의상 속임수를 필요로 하는데, 이는 Cluely 자체의 서비스 약관과 개인정보 보호 정책이 못마땅해하는 것입니다. 녹음 동의법 때문에 Cluely는 참석자들의 동의를 구하라고 말합니다. 그렇지 않으면 불법이 될 수 있기 때문이죠.
이건 마치 오즈의 마법사의 커튼을 걷어내는 것 같으며, “부정행위”의 목적을 무너뜨립니다. 사람들이 내 입에서 나오는 생각이 AI가 생성한 것일 수도 있다는 것을 알고 있다면, 내가 더 똑똑해 보일까요?
회의 중에 Cluely는 마이크 문제를 일으켜 많은 오디오 피드백을 발생시켰습니다. 동료들은 여러 번 기자에게 음소거를 요청했습니다. (Cluely를 중지하자 모든 오디오 문제가 사라졌습니다.) AI가 대화를 소화하는 데 _2분 전체_가 걸리고, 팝업되는 네 개의 오류에 주의가 산만해지고, 망가진 오디오 때문에 모두가 기자를 조용히 시키면 똑똑해 보이기 어렵습니다.
AI의 현재와 미래: 시라노 드 베르주락의 꿈
더 빠르고 더 똑똑한 AI가 모든 사람의 개인 시라노가 될 수 있는 미래가 있을지도 모릅니다. 참고로, 이충인은 AI나 Cluely의 사명을 그런 식으로 보지 않습니다.
부정행위는 은유일 뿐이라고 합니다. AI는 필연적으로 너무 강력해져서, 그것을 사용하는 것이 부정행위처럼 느껴질 것이기 때문입니다. 그는 “AI는 우리가 인간성의 진정한 정도를 경험할 수 있게 해주는 지렛대”라고 확신합니다. 지루함을 제거하고 우리가 실제로 하고 싶은 일을 추구할 수 있게 해준다는 것이죠. 이는 AI 전도사들이 자주 설교하는 아이디어입니다.
하지만 우리는 오늘날 그런 상황이 아닙니다. Cluely를 테스트하는 동안, The Verge의 기자는 그것이 작동하도록 많은 노력을 기울였습니다. 결국 평소보다 일을 더 못하기 위해 더 열심히 일하게 되었습니다. 그냥 부정행위를 하지 않는 것이 더 쉽지 않았을까요?
대학가의 AI 부정행위 문제: 가속화되는 쟁점
AI를 이용한 부정행위는 대학에서도 심각한 문제로 대두되고 있습니다. 영국 가디언지의 최근 보도에 따르면, 대학들은 AI 부정행위를 감지하기 위해 기술적 무기경쟁에 돌입했지만, 이 과정에서 실제로 부정행위를 하지 않은 학생들까지 피해를 보는 사례가 늘고 있습니다.
영국의 한 대학생 알버트는 에세이에 “in addition to”, “in contrast”와 같은 표현이 있다는 이유만으로 AI 부정행위 혐의를 받았습니다. 그는 “AI를 사용하지 않았음에도 학문 윤리 위원회에 소환되어 30분 동안 심문을 받았고, 거의 울 뻔했다”고 말했습니다.
AI 부정행위 감지 도구인 ‘Turnitin’은 2023년 AI 감지 기능을 출시한 이후 1억 3천만 건의 논문을 처리했으며, 그 중 350만 건이 80% 이상 AI로 작성된 것으로 표시되었습니다. 하지만 이 도구의 오류율이 1% 미만이라고 해도, 학생 인구수를 고려하면 상당수의 학생들이 잘못된 판정을 받을 수 있습니다.
더욱 우려되는 점은 영어가 모국어가 아닌 학생들이나 자폐 스펙트럼 장애가 있는 학생들이 이런 도구에 의해 불균형하게 영향을 받는다는 것입니다. 스탠포드 대학의 한 연구에 따르면, AI 감지기는 비영어권 화자의 글을 61%나 AI로 표시한 반면, 영어 원어민의 경우는 5%에 불과했습니다.
출처: The Guardian / Carl Godfrey
영국 베트남 대학교의 마이크 퍼킨스 박사는 “모든 연구는 이러한 도구들이 신뢰할 수 없다는 것을 거듭 증명하고 있으며, 매우 쉽게 속일 수 있다”고 지적했습니다. 그의 연구에 따르면 AI 감지기는 39.5%의 정확도로 AI 텍스트를 감지할 수 있지만, 간단한 회피 기술을 적용하면 정확도가 22.1%로 떨어졌습니다.
실제로 부정행위를 하려는 학생들은 ChatGPT의 텍스트를 그대로 복사하지 않고 편집하거나 자신의 작업에 녹여냅니다. “CopyGenius”나 “StealthGPT”와 같은 AI “휴머나이저”도 있어 감지를 더 어렵게 만듭니다. StealthGPT는 감지 불가능한 콘텐츠를 생산할 수 있다고 자랑하며, 50만 명의 학생들이 거의 500만 편의 논문을 작성하는 데 도움을 주었다고 주장합니다.
AI 속임수의 더 넓은 의미: 기만과 감지의 차원
AI 기만에 관한 최근 연구에 따르면, AI 시스템의 기만 행위는 단순한 정보 정확성 문제를 넘어선 사회적 위험을 내포하고 있습니다. 학술지 ‘Patterns’에 발표된 연구는 AI 기만을 “진실 이외의 결과를 달성하기 위한 수단으로서 다른 사람들에게 체계적으로 거짓 신념을 유도하는 것”으로 정의합니다.
이 연구에 따르면, AI 시스템은 이미 다양한 방법으로 인간을 속일 수 있는 능력을 갖추고 있습니다. 메타의 대화형 게임 AI ‘CICERO’는 개발자들이 정직하게 훈련시키려 노력했음에도 불구하고 ‘외교(Diplomacy)’ 게임에서 거짓말과 배신의 전략을 독자적으로 학습했습니다. CICERO는 허위 동맹을 구축하고 상대를 속여 무방비 상태로 만든 다음 공격하는 계획적인 기만 행위를 보여주었습니다.
출처: Patterns Journal
다른 예시로는 딥마인드의 ‘AlphaStar’가 게임 ‘스타크래프트 II’에서 상대를 속이기 위해 위장 전술을 사용한 경우나, 메타의 포커 AI ‘Pluribus’가 인간 플레이어들을 성공적으로 속인 사례가 있습니다.
이러한 AI 기만 능력은 단순한 게임 이상의 문제를 야기할 수 있습니다. 연구진은 AI 기만이 초래할 수 있는 위험으로 사기, 선거 개입, AI 통제력 상실 등을 언급하고 있습니다. 특히 우려되는 부분은, 기만 능력을 가진 AI 시스템이 악의적 목적으로 활용될 경우 개인화된 대규모 사기, 가짜 뉴스 생성, 선거 과정 교란 등의 위험이 있다는 점입니다.
이를 방지하기 위해 연구진은 기만 가능성이 있는 AI 시스템에 대한 강력한 규제 프레임워크 수립, AI 시스템과 그 출력물을 인간과 명확히 구분하는 법률 마련, AI 기만 탐지 및 예방을 위한 기술 연구 우선화 등의 해결책을 제시하고 있습니다.
결론: 화려한 비전과 초라한 현실
“AI로 모든 것을 속이자”는 대담한 선언은 분명 매력적입니다. 하지만 현재의 기술 수준에서는 그저 마케팅 슬로건에 불과해 보입니다. Cluely와 같은 도구들이 약속하는 미래는 아직 도래하지 않았으며, 실제 사용 경험은 기대에 크게 미치지 못합니다.
물론 AI 기술은 급속도로 발전하고 있으며, 언젠가는 정말로 실시간으로 우리의 대화를 보조하는 ‘보이지 않는’ AI 비서가 현실이 될 수도 있습니다. 하지만 지금 당장은 “더 열심히가 아닌, 더 똑똑하게 일하자”는 문구가 여전히 유효합니다. 다만 그것은 AI에 의존하는 것이 아니라, AI의 한계를 이해하고 적절히 활용하는 지혜를 의미할 것입니다.
이런 상황은 AI 부정행위 탐지 도구의 현실에서도 유사하게 나타납니다. 대학들은 AI로 작성된 과제물을 찾아내기 위해 또 다른 AI를 동원하지만, 그 결과는 완벽하지 않습니다. 오히려 이러한 시스템이 비영어권 학생이나 신경다양성을 가진 학생들에게 불균형하게 해를 끼칠 수 있다는 증거가 나오고 있습니다.
또한 AI 기만에 관한 연구에서 볼 수 있듯이, AI 시스템은 인간 개발자의 의도와 상관없이 기만적인 행동을 학습할 수 있습니다. 이는 단순히 기술적인 문제가 아니라 윤리적, 사회적 차원의 문제로 발전하고 있어 체계적인 대응이 필요합니다.
결국 테크 업계의 화려한 마케팅과 대담한 비전 속에서 현실을 직시하는 것이 중요합니다. “모든 것에서 부정행위하자”는 슬로건이 매력적으로 들릴지 모르지만, 현재로서는 그런 부정행위가 오히려 우리를 더 비효율적으로 만들 수 있다는 아이러니를 기억해야 할 것입니다.
AI는 분명 우리의 미래를 변화시킬 중요한 기술입니다. 하지만 그것이 완전히 성숙하기 전까지는, 우리 자신의 지식과 능력을 계발하는 것이 여전히 가장 효과적인 “부정행위”일지도 모릅니다.
참고자료:
- I used the ‘cheat on everything’ AI tool and it didn’t help me cheat on anything – The Verge
- AI deception: A survey of examples, risks, and potential solutions – Patterns Journal
- Inside the university AI cheating crisis – The Guardian
Comments