AI 특이점(Singularity)이라고 하면 어떤 이미지가 떠오르시나요? 영화 속에서 본 것처럼 하루아침에 로봇이 거리를 활보하고, 인류가 갑작스럽게 AI에 의해 지배당하는 극적인 변화를 상상하는 분들이 많을 것입니다. 하지만 OpenAI의 CEO 샘 알트만은 최근 자신의 블로그를 통해 전혀 다른 관점을 제시했습니다. 그는 AI 특이점이 이미 시작되었지만, 우리가 예상했던 것보다 훨씬 ‘부드럽고’ 점진적으로 진행되고 있다고 말합니다.

생각보다 조용히 시작된 특이점

“우리는 이미 사건의 지평선을 넘었고, 이륙이 시작되었습니다.” 알트만의 첫 문장은 단언적입니다. 하지만 그가 묘사하는 현실은 우리의 일상과 크게 다르지 않습니다. 로봇이 거리를 걸어다니지도 않고, 대부분의 사람들이 하루 종일 AI와 대화하지도 않습니다. 여전히 사람들은 질병으로 죽고, 우주 여행은 쉽지 않으며, 우주에 대해 모르는 것들이 많습니다.

그럼에도 불구하고 우리는 이미 많은 방면에서 인간보다 뛰어난 시스템들을 구축했고, 이를 사용하는 사람들의 생산성을 크게 증폭시키고 있습니다. 이것이 바로 알트만이 말하는 ‘부드러운 특이점’의 핵심입니다. 혁명적 변화가 드라마틱하게 일어나는 것이 아니라, 일상 속에서 자연스럽게 스며들고 있다는 것입니다.

이미 인간을 뛰어넘은 AI의 현실

알트만은 “어떤 큰 의미에서 ChatGPT는 이미 지금까지 살았던 어떤 인간보다도 강력하다”고 단언합니다. 이는 과장이 아닙니다. 수억 명의 사람들이 매일 ChatGPT에 의존하고 있으며, 점점 더 중요한 업무에 활용하고 있습니다.

여기서 중요한 통찰이 나옵니다. 작은 새로운 기능 하나가 엄청나게 긍정적인 영향을 만들어낼 수 있지만, 작은 오정렬(misalignment)이 수억 명에 의해 증폭되면 상당한 부정적 영향을 초래할 수 있다는 점입니다. 이는 AI 개발에서 안전성과 정렬(alignment) 문제가 왜 그토록 중요한지를 보여주는 대목입니다.

구체적인 AI 발전 로드맵: 2025-2027

알트만은 향후 3년간의 AI 발전에 대해 구체적인 전망을 제시합니다:

2025년: 실제 인지 작업을 수행할 수 있는 에이전트의 도래. 컴퓨터 코드 작성이 완전히 달라질 것입니다.

2026년: 새로운 통찰을 스스로 찾아낼 수 있는 시스템의 등장. 이는 과학 연구와 발견 과정에 혁명을 가져올 것입니다.

2027년: 현실 세계에서 작업을 수행할 수 있는 로봇의 도래.

이러한 단계적 발전은 갑작스러운 변화가 아닌 점진적 진화의 형태로 나타날 것입니다. 더 많은 사람들이 소프트웨어와 예술을 창조할 수 있게 되겠지만, 세상은 여전히 이 둘 모두를 더 많이 원할 것이고, 새로운 도구를 받아들이는 전문가들은 여전히 초보자보다 훨씬 뛰어날 것입니다.

2030년대: 지능과 에너지가 풍부한 세상

알트만이 그리는 2030년대는 흥미롭습니다. 가장 중요한 측면에서는 2030년대가 크게 다르지 않을 것이라고 말합니다. 사람들은 여전히 가족을 사랑하고, 창의성을 표현하며, 게임을 하고, 호수에서 수영을 할 것입니다.

하지만 여전히 매우 중요한 측면에서는 2030년대가 이전과는 완전히 다를 것입니다. 지능과 에너지 – 즉, 아이디어와 아이디어를 실현할 수 있는 능력 – 이 엄청나게 풍부해질 것입니다. 이 두 가지는 오랫동안 인류 진보의 근본적 제약 요소였습니다.

특히 주목할 점은 ‘재귀적 자기 개선(recursive self-improvement)’의 개념입니다. 이미 구축한 도구들이 더 나은 과학적 통찰을 찾고 더 나은 AI 시스템을 만드는 데 도움을 줄 것입니다. 10년치 연구를 1년 또는 1개월 만에 할 수 있다면, 진보의 속도는 완전히 달라질 것입니다.

경제적 가치 창출과 자기 강화 루프

알트만은 경제적 가치 창출이 이미 시작되었다고 말합니다. 점점 더 강력해지는 AI 시스템을 운영하기 위한 인프라 구축의 복합적 효과가 나타나고 있습니다. 첫 백만 대의 휴머노이드 로봇을 구식 방법으로 만들어야 할지도 모르지만, 그 이후에는 이들이 전체 공급망을 운영할 수 있을 것입니다 – 광물을 채굴하고 정제하며, 트럭을 운전하고, 공장을 운영하는 식으로 말입니다.

흥미로운 사실 하나: ChatGPT 쿼리 하나당 평균 0.34와트시를 사용하는데, 이는 오븐이 1초 조금 넘게 사용하는 전력량이나 고효율 전구가 몇 분간 사용하는 전력량과 같습니다. 또한 약 0.000085갤런의 물을 사용하는데, 이는 티스푼의 15분의 1 정도입니다.

일자리와 사회적 변화에 대한 현실적 관점

많은 사람들이 우려하는 일자리 문제에 대해 알트만은 균형잡힌 시각을 제시합니다. 전체 직업군이 사라지는 등 매우 어려운 부분들이 있을 것이지만, 반면에 세상이 너무 빠르게 부유해져서 이전에는 엄두도 낼 수 없었던 새로운 정책 아이디어들을 진지하게 고려할 수 있게 될 것입니다.

역사가 보여주듯이 우리는 새로운 일과 새로운 욕구를 찾아낼 것이고, 새로운 도구들을 빠르게 동화시킬 것입니다. 산업혁명 이후의 직업 변화가 좋은 최근 사례입니다. 천 년 전의 자급자족 농부가 오늘날 우리 중 많은 사람들이 하는 일을 보고는 가짜 직업이라고 말하며, 충분한 음식과 상상할 수 없는 사치가 있으니 그냥 재미삼아 게임을 하고 있다고 생각할 것입니다.

안전성과 접근성: 해결해야 할 과제들

알트만은 거대한 장점들과 함께 심각한 도전과제들도 직면하고 있다고 인정합니다. 그가 제시하는 해결 방안은 두 단계로 구성됩니다:

1단계: 정렬 문제 해결
AI 시스템들이 우리가 집단적으로 장기적으로 진정으로 원하는 것을 배우고 그에 따라 행동하도록 강력하게 보장할 수 있어야 합니다. 소셜 미디어 피드가 오정렬된 AI의 대표적 사례입니다. 이 알고리즘들은 당신이 계속 스크롤하도록 만드는 데 놀라울 정도로 뛰어나고 단기적 선호를 명확히 이해하지만, 장기적 선호를 무시하는 뇌의 어떤 부분을 악용함으로써 그렇게 합니다.

2단계: 광범위한 접근성 확보
초지능을 저렴하고, 널리 이용 가능하며, 특정 개인, 기업, 국가에 너무 집중되지 않도록 만드는 것입니다. 사회는 회복력이 있고 창의적이며 빠르게 적응합니다. 사람들의 집단적 의지와 지혜를 활용할 수 있다면, 많은 실수를 하고 일부는 정말 잘못될 것이지만, 빠르게 배우고 적응하여 이 기술을 최대한 활용하고 부작용을 최소화할 수 있을 것입니다.

‘세상을 위한 뇌’ 구축하기

알트만은 OpenAI뿐만 아니라 전체 업계가 “세상을 위한 뇌”를 구축하고 있다고 표현합니다. 이는 극도로 개인화되고 모든 사람이 쉽게 사용할 수 있을 것이며, 우리는 좋은 아이디어에 의해서만 제한될 것입니다.

오랫동안 스타트업 업계의 기술자들은 “아이디어만 있는 사람들” – 아이디어는 있지만 이를 구현할 팀을 찾고 있는 사람들 – 을 비웃어왔습니다. 하지만 이제 그들의 시대가 올 것으로 보입니다. 아이디어가 실제로 가장 중요한 제약 요소가 될 수 있기 때문입니다.

결론: 우리가 준비해야 할 것들

“측정하기 너무 저렴한 지능”이 손 닿는 곳에 있습니다. 알트만은 2020년에 오늘날 우리가 있는 곳에 대해 말했다면 2030년에 대한 현재 예측보다 더 터무니없게 들렸을 것이라고 말합니다.

이 모든 분석에서 도출할 수 있는 핵심 인사이트는 다음과 같습니다:

AI 특이점은 이미 시작되었지만, 그것은 우리가 상상했던 극적이고 갑작스러운 변화가 아닙니다. 대신 일상에 점진적으로 스며들어 우리의 능력을 증폭시키고, 새로운 가능성을 열어가는 과정입니다. 중요한 것은 이 변화를 두려워하기보다는 어떻게 활용할 것인가를 고민하는 것입니다.

개인과 조직 차원에서는 새로운 AI 도구들을 적극적으로 실험하고 학습하여 생산성과 창의성을 높일 방법을 찾아야 합니다. 동시에 사회 차원에서는 AI의 안전한 개발과 공정한 접근을 보장하기 위한 대화와 정책 마련이 시급합니다.

알트만의 마지막 말처럼, 우리는 “초지능을 향해 부드럽고, 기하급수적으로, 그리고 별 일 없이” 확장해 나가야 할 것입니다. 이것이 바로 ‘부드러운 특이점’의 본질이며, 우리가 맞이하고 있는 AI 시대의 진짜 모습일 것입니다.

---

참고자료: The Gentle Singularity