빅테크 간 AI 경쟁이 새로운 국면을 맞았습니다. 마이크로소프트가 OpenAI와 별개로 독자적인 초지능(superintelligence) 개발 계획을 발표했거든요. 그런데 여기엔 중요한 전제가 붙습니다. “인간이 통제하는” 초지능이어야 한다는 것.
마이크로소프트 AI 책임자 무스타파 슐레이만(Mustafa Suleyman)이 11월 6일 “인본주의적 초지능(Humanist Superintelligence, HSI)”이라는 개념을 공식 발표했습니다. 이는 최근 OpenAI와의 파트너십을 재협상하여 독자적으로 AGI를 개발할 수 있게 된 후 나온 첫 비전입니다. 슐레이만은 “인간이 AI보다 중요하다”며, 무제한적 자율성을 가진 초지능이 아닌 “신중하게 조정되고 맥락화된, 제한이 있는” AI를 만들겠다고 밝혔습니다.
출처: Towards Humanist Superintelligence – Microsoft AI
ChatGPT를 겨냥한 차별화 전략
슐레이만의 발표에서 눈에 띄는 대목은 OpenAI의 ChatGPT를 간접적으로 비판한 부분입니다. 월스트리트저널 인터뷰에서 그는 “너무 인간처럼 느껴져서 사람들을 속여 감정이 있다고 착각하게 만드는” 챗봇을 비판했죠. 마이크로소프트의 HSI는 이와 달리 “명확하게 종속적이고 통제 가능한” AI를 지향합니다.
구체적으로 HSI는 세 가지 특징을 갖습니다. 첫째, 특정 문제 해결에 최적화된 도메인 중심 설계. 둘째, 무제한적 자율성 대신 명확한 제약과 맥락. 셋째, 인간을 대체하는 게 아니라 인간의 역할을 지원하고 확장하는 방향. “인류를 먹이사슬 꼭대기에 유지하는” AI라는 표현이 이를 잘 보여줍니다.
의료 초지능부터 시작
마이크로소프트가 제시한 세 가지 응용 분야는 실용성에 초점을 맞췄습니다. AI 동반자(학습·업무 지원), 의료 초지능, 청정 에너지 과학적 돌파구가 그것인데요. 특히 의료 분야에서는 구체적 성과를 이미 내놓았습니다.
뉴잉글랜드 의학저널(NEJM)이 매호 실는 ‘케이스 챌린지’라는 게 있습니다. 증상 목록을 주고 진단하는 문제인데, 전문의도 한 자릿수 정답률을 기록할 정도로 어렵습니다. 마이크로소프트의 AI 진단 시스템 MAI-DxO는 이 문제에서 85% 정답률을 기록했죠. 일반 의사의 정답률이 20% 수준인 걸 감안하면 놀라운 성과입니다. 게다가 훨씬 적은 검사만으로도 진단이 가능했습니다.
슐레이만은 이를 “도메인 특화 초지능”의 모범 사례로 제시합니다. 범용 AGI처럼 모든 걸 다하려는 대신, 특정 분야에서 인간을 뛰어넘는 전문성을 발휘하되 통제 가능한 수준에 머무른다는 거죠. 이런 접근이 정렬(alignment)과 봉쇄(containment) 문제를 피하면서도 실질적 가치를 만들 수 있다는 게 그의 주장입니다.
AGI 경쟁 부정하지만 경쟁은 불가피
흥미로운 건 슐레이만이 “AGI로의 경주라는 서사를 거부한다”고 명시했다는 점입니다. 하지만 현실은 다릅니다. 마이크로소프트는 최근 OpenAI와의 계약을 재협상하면서 “독자적으로 또는 제3자와의 파트너십을 통해 AGI를 추구할 수 있는” 권리를 확보했거든요. 법적으로 OpenAI의 지적재산권을 활용해 자체 AGI를 개발하고 경쟁할 수 있게 된 겁니다.
마이크로소프트는 이미 자체 개발한 텍스트, 음성, 이미지 생성 모델을 런칭한 상태입니다. OpenAI에 대한 의존도를 줄이고 독자 기술력을 키우는 전략이 분명해 보입니다.
투자자들의 냉담한 반응
그런데 시장은 이 발표를 그다지 환영하지 않았습니다. 마이크로소프트 주가는 발표 후 2% 하락했죠. 이유는 명확합니다. AI 인프라 투자 비용에 대한 우려 때문입니다.
마이크로소프트는 최근 실적 발표에서 자본 지출이 감소할 거라던 기존 가이던스를 철회하고, 오히려 계속 증가할 것이라고 밝혔습니다. 메타가 지난주 주가 급락을 겪은 것도 같은 맥락이었죠. AI 인프라에 막대한 돈을 쏟아붓고 있지만, 이게 언제 어떻게 수익으로 이어질지 불확실하다는 게 투자자들의 걱정입니다.
초지능 개발이 인본주의적이든 아니든, 그 추구에는 엄청난 인재와 인프라 비용이 듭니다. 슐레이만의 비전이 아무리 윤리적으로 설득력이 있어도, 비즈니스 관점에서의 회수 가능성이 명확하지 않으면 투자자들은 회의적일 수밖에 없습니다.
안전한 초지능은 가능한가
슐레이만의 발표문에는 솔직한 고민도 담겨 있습니다. “스스로 계속 똑똑해지도록 설계된 시스템을 어떻게 봉쇄하고 정렬시킬 것인가? 한 번이 아니라 영원히 계속.” 그는 이 질문에 확신 있는 답을 가진 사람을 아직 만나지 못했다고 인정합니다.
그래서 HSI는 일종의 절충안입니다. 모든 걸 다하는 범용 초지능 대신, 의료처럼 특정 도메인에 집중한 전문 초지능을 여러 개 만드는 거죠. 이렇게 하면 통제 가능성은 높이면서도 실질적 가치는 얻을 수 있다는 논리입니다.
문제는 이것이 진짜 작동할지, 그리고 다른 기업들도 같은 접근을 따를지입니다. 슐레이만 스스로 인정하듯 “더 안전하지 않은 초지능 모델이 잠재적으로 더 빠르게 개발되고 더 자유롭게 작동할 수 있다”는 집단행동 문제가 있습니다. 한 기업만 안전하게 간다고 해결되는 게 아니라는 거죠.
결국 마이크로소프트의 HSI 선언은 기술적 비전인 동시에 윤리적·전략적 포지셔닝입니다. OpenAI와 차별화하고, 규제 당국과 대중에게 책임감 있는 이미지를 보이며, 동시에 초지능 개발 경쟁에서 뒤처지지 않겠다는 의지. 이 모든 걸 한 방에 담은 메시지입니다. 과연 이 비전이 실제로 구현될 수 있을지, 그리고 시장이 언제쯤 이를 긍정적으로 평가할지는 지켜봐야 할 문제입니다.
참고자료:
답글 남기기