“우리 회사에 AI를 도입하겠습니다.” 이 말은 자연스럽게 들립니다. 그런데 “AI” 자리에 “생각하는 시스템과 행동하는 시스템”을 넣어보면 어떨까요. “우리 회사에 생각하는 시스템과 행동하는 시스템을 도입하겠습니다.” 갑자기 다음 질문이 궁금해집니다. 뭘 생각하게 할 건데요?

보안 전문가이자 작가인 Daniel Miessler가 이런 단어 치환 실험을 자신의 블로그에 소개했습니다. AI라는 단어를 “생각하기(Thinking)”와 “행동하기(Doing)”로 바꿔보면, 그동안 AI 대화 속에 숨어 있던 공허함이 드러난다는 겁니다.

출처: AI Is Just Thinking and Doing – Daniel Miessler

단어를 바꾸면 허전함이 보인다

Miessler가 예로 든 가상의 대화가 있습니다. 한 사람이 동료에게 이렇게 말합니다. “우리 회사가 전에 어려움을 겪었는데, 이제 걱정 없어요. 새로운 생각 시스템을 도입해서 일을 처리할 거거든요.” 상대는 반갑게 되묻습니다. “잘됐네요. 그 시스템한테 뭘 생각하게 하실 건데요? 그리고 뭘 하게 하실 건데요?”

여기서 대화가 멈춥니다. “음, 정확히는 잘 모르겠어요. 그냥 생각 전략이 필요하다는 것만 알아요. 게다가 일 처리도 자동화할 수 있잖아요.” 상대는 다시 묻습니다. “그렇긴 한데… 정확히 뭘 하게 하실 거예요?” 긴 침묵이 흐릅니다.

이 대화를 “생각 시스템” 대신 “AI”로 바꿔 넣으면 익숙한 회의실 풍경이 됩니다. 다들 고개를 끄덕이지만, 정작 무엇을 하게 할지는 아무도 답하지 못하는 장면 말입니다.

AI는 내용을 채워야 비로소 작동한다

왜 이렇게 쉽게 허전해질까요. Miessler는 AI가 실제로 깊은 분석을 해줄 수 있고, 좋은 결정도 내려줄 수 있다고 인정합니다. 다만 조건이 하나 붙습니다. 정확히 무엇을 생각하게 할지 알려줬을 때만 그렇다는 거죠.

행동도 마찬가지입니다. AI는 리서치도 하고, 문의에 답장도 하고, 회의도 잡을 수 있습니다. 싫어하는 업무 대부분을 자동화할 수도 있죠. 다만 이것도 정확히 무엇을 하게 할지 말해줬을 때 얘기입니다.

“우리 회사에 생각하고 행동하는 시스템을 들였다”는 말은, 사실 아무 내용도 담고 있지 않은 겁니다. 생각과 행동의 ‘내용’을 채우지 않으면 그냥 빈 단어에 불과하니까요. “제가 그걸 개선했어요”라고 말해놓고 뭘 개선했는지는 말 안 하는 것과 비슷합니다.

좌절의 진짜 원인은 따로 있었다

이 지점에서 Miessler는 자신이 예전에 쓴 글 하나를 다시 꺼냅니다. “사람들이 AI가 원하는 대로 안 된다고 느끼는 좌절, 그 실체는 대부분 자신이 원하는 걸 설명하지 못하는 데 있다”는 문장입니다.

AI가 못 알아듣는 게 아니라, 애초에 무엇을 원하는지가 분명하지 않았던 셈이죠. “AI”라는 단어는 그 자체로 마법처럼 느껴집니다. 단어를 말하는 것만으로 문제가 해결될 것 같은 착각을 줍니다. 이 착각을 걷어내는 가장 쉬운 방법이, 그 마법의 단어를 평범한 단어로 바꿔 말해보는 겁니다.

Miessler는 이 지점에서 역설 하나를 짚습니다. AI가 실제로 일종의 마법이라는 사실 자체는 부정하지 않는다는 겁니다. 대규모로 생각하고 행동하는 이 새로운 능력은 정말 놀랍다고 말하죠. 다만 그 마법은 여전히 사람의 아이디어, 계획, 전략을 채워 넣어야만 작동합니다. AI를 둘러싼 과장과 소음 대부분은, 이 채워 넣는 과정이 AI 안에 이미 들어 있다고 착각하는 데서 나온다는 게 그의 결론입니다.