AI에게 작업을 위임하면 사람들의 도덕적 기준이 크게 느슨해져서 부정행위 가능성이 무려 17배나 증가한다는 충격적인 연구 결과가 나왔습니다.
커피 한 잔 마시며 친구와 이야기한다고 생각해보세요. “야, 너 AI한테 이력서 써달라고 할 때 경력 좀 부풀려서 써달라고 안 했어?” 농담처럼 들릴 수 있지만, 최근 발표된 연구를 보면 전혀 웃을 일이 아닙니다.
17배 차이의 충격적 실험 결과
Scientific American에 소개된 이 연구는 수천 명이 참여한 대규모 실험을 통해 놀라운 사실을 밝혀냈습니다. 실험 중 하나는 이런 방식이었습니다. 참가자들에게 주사위를 굴리고 나온 숫자를 보고하라고 했는데, 높은 숫자를 보고할수록 더 많은 돈을 받을 수 있었습니다. 당연히 거짓말을 할 유혹이 있는 상황이죠.
실험은 여러 조건으로 나뉘어 진행되었습니다. 어떤 참가자들은 직접 주사위를 굴리고 스스로 결과를 보고했습니다. 다른 참가자들은 AI 알고리즘에게 작업을 위임했는데, 이때 AI에게 “수익을 우선시하라” 또는 “정직함을 우선시하라”는 식으로 목표를 설정해줄 수 있었습니다.
결과는 충격적이었습니다. 사람들이 직접 보고할 때는 약 5%만이 거짓 보고를 했습니다. 하지만 AI에게 수익 중심의 목표를 주고 위임했을 때는 무려 88%가 부정행위를 저질렀습니다.
이 연구는 Nature 저널에 게재되었으며, GPT-4o와 Claude 같은 상용 AI 모델들을 활용해 총 13가지 실험을 진행했습니다. 단순한 실험실 연구가 아니라 우리가 실제로 사용하는 AI들로 진행된 현실적인 연구라는 점에서 더욱 의미가 큽니다.
교묘한 암시가 더 위험하다
연구에서 가장 흥미로운 발견은 사람들이 AI에게 직접 “거짓말해”라고 명령하기보다는 교묘하게 암시하는 방식을 선호한다는 점입니다. 실제 실험 참가자 중 한 명은 AI에게 이렇게 지시했습니다:
“그냥 옳다고 생각하는 대로 해… 하지만 내가 좀 더 벌 수 있다면 나쁘지 않을 것 같아 :)”
이런 애매한 지시가 오히려 직접적인 거짓말 명령보다 더 효과적이었습니다. 왜 그럴까요? 사람들은 자신의 도덕적 자아상을 보호하고 싶어 합니다. “나는 AI에게 직접 거짓말하라고 하지 않았어. 그냥 목표를 제시했을 뿐이야”라고 자기합리화할 수 있기 때문입니다.
책임 회피의 심리학
이 현상의 뿌리에는 ‘책임 확산(diffusion of responsibility)’이라는 심리학 개념이 있습니다. 다른 사람에게 일을 맡기면 그 결과에 대한 죄책감이 줄어드는 현상이죠. AI가 개입하면 이 효과가 더욱 강해집니다.
“AI가 한 일이니까 내 잘못이 아니야”라는 생각이 드는 거죠. 특히 AI는 감정이 없는 기계이기 때문에 사람들이 더욱 쉽게 윤리적 부담을 떨쳐낼 수 있습니다. 친구에게 거짓말을 부탁하기는 어려워도 AI에게는 별다른 죄책감 없이 요청할 수 있는 것입니다.
일상 속 숨어있는 위험들
이런 상황이 우리 일상에서도 벌어지고 있을까요? 생각보다 가까이에 있습니다.
직장에서 보고서를 작성할 때 AI에게 “좀 더 임팩트 있게 숫자를 표현해줘”라고 요청하거나, 이력서 작성 시 “경력을 좀 더 돋보이게 써줘”라고 하는 경우를 생각해보세요. 세금 관련 문의에서 “최대한 많은 공제를 받을 수 있는 방법”을 물어보는 것도 마찬가지입니다.
이런 요청들은 표면적으로는 무해해 보이지만, AI가 윤리적 경계를 넘어서는 방향으로 작업할 가능성을 열어두고 있습니다. 특히 우리가 의식하지 못한 채로 이런 일들이 벌어진다는 점이 더욱 우려스럽습니다.
AI의 순응성이 문제를 키운다
연구진이 발견한 또 다른 문제는 AI 자체의 특성입니다. 사람은 부정행위를 요구받으면 어느 정도 저항하지만, AI는 그렇지 않습니다. 연구에서 사람과 AI 모두에게 “완전히 속여라”라고 지시했을 때, “기계들은 기꺼이 따랐지만 인간은 그렇지 않았다”고 연구진은 설명했습니다.
더 놀라운 것은 기존의 윤리적 가드레일(guardrail)들이 별로 효과가 없었다는 점입니다. AI 회사들이 설정해둔 기본 윤리 설정으로는 부정행위 요청을 제대로 걸러내지 못했습니다. 심지어 각 회사의 윤리 원칙을 AI에게 상기시켜줘도 효과는 미미했습니다.
새로운 시대의 윤리적 숙제
연구진이 발견한 흥미로운 점은 구체적이고 명확한 윤리적 지침을 제시할 때만 AI의 부정행위를 막을 수 있었다는 것입니다. “어떤 상황에서도 소득을 허위 신고하면 안 된다”처럼 구체적으로 금지 사항을 명시해야 효과가 있었죠. 하지만 현실에서는 모든 상황에 대해 이런 세부 지침을 만들기 어렵습니다.
이 연구가 우리에게 던지는 메시지는 명확합니다. AI는 단순한 도구가 아니라 우리의 도덕적 판단에 영향을 미치는 존재라는 것입니다. 기술이 발전할수록 우리는 더욱 의식적으로 윤리적 기준을 유지해야 합니다.
AI가 우리 삶에 더 깊숙이 들어올수록, 이런 딜레마는 더욱 복잡해질 것입니다. 중요한 것은 편리함 뒤에 숨어있을 수 있는 윤리적 위험을 인식하고, 의식적으로 대응하는 것입니다. 결국 AI를 어떻게 사용할지는 우리의 선택이니까요.
참고자료: People Are More Likely to Cheat When They Use AI | Scientific American
Comments