한 개발자가 2주 동안 저녁마다 책상 위 기기들의 펌웨어를 AI에게 뜯게 했습니다. 웹캠에서 나온 결과 하나는 이렇습니다. 녹화 중에도 초록색 표시등을 꺼버릴 수 있었다는 것.

schlarp이라는 개발자가 Claude Opus 5를 붙여 웹캠·모니터·마이크·캡처기·조명 다섯 기기의 펌웨어를 역공학한 기록을 공개했습니다. 다섯 기기를 합쳐 실제 작업 시간은 약 13시간, 그가 입력한 프롬프트는 98개. 예전 같으면 전문 리버서의 몇 주짜리 작업이 저녁 취미가 됐다는 얘기입니다.

출처: Everything I own, owned – schlarp.com

주변기기가 역공학의 완벽한 표적인 이유

웹캠이나 조명 같은 주변기기는 사실 ‘내 컴퓨터에 붙은 작은 컴퓨터’입니다. 호스트와 데이터로 연결돼 있고, 대개 펌웨어 업데이트 통로도 갖고 있죠. 에이전트 입장에서는 계속 시도하고 결과를 확인하며 파고들 대상이 있는 셈입니다.

과정은 다섯 기기 모두 비슷했습니다. 제조사에서 펌웨어와 업데이트 도구를 구해 역공학 환경에 던져 넣고, Claude Opus 5에게 목표를 일러준 뒤 알아서 돌게 두는 방식. 목표는 대개 업데이트 형식과 프로토콜을 해독하고, 서명 검증 같은 보안 속성을 파악하고, 숨겨진 디버그 기능을 찾아내는 것이었습니다.

웹캠 표시등을 끄기까지

Insta360 Link 웹캠은 특히 속이 복잡했습니다. 작은 몸체 안에 실시간 운영체제가 돌고, 얼굴 추적과 제스처 인식을 담당하는 작은 비전 모델들까지 얹혀 있었죠. 그만큼 파고들 공격 표면도 넓었습니다.

Claude는 USB 명령으로 장치를 대용량 저장소 모드로 전환시킨 뒤 조작된 펌웨어를 밀어 넣는 경로를 찾아냈습니다. 게다가 사용자 개입 없이 파일을 임의로 읽고 쓰며 재부팅까지 시키는 또 다른 통로도 있었죠. 위조를 막는 장치라고는 무결성 확인용 MD5 해시 하나뿐이었습니다.

표시등은 색과 깜빡임을 정해둔 ‘패턴’ 표에서 값을 골라 켜지는 구조였습니다. Claude에게 녹화 상태에 해당하는 표 항목을 지워버리고 해시를 맞춘 뒤 다시 기록하게 했죠. 결과는 도입부에 적은 그대로입니다. 녹화 중에 켜져야 할 초록 불이 더는 들어오지 않았습니다. 다만 이 웹캠은 녹화가 꺼지면 짐벌이 아래로 숙여지기 때문에, 완전히 티가 안 나는 건 아니었습니다.

같은 쉬움이 공격에도 열린다

여기서 문장이 그대로 뒤집힙니다. 주말 취미로 가능해진 그 접근성은, 악성 펌웨어를 심거나 주변기기 사이를 옮겨 다니는 웜에도 똑같이 적용됩니다. 내 방 기기의 숨은 기능을 내가 확인할 수 있게 됐다는 건, 남도 그럴 수 있게 됐다는 뜻입니다.

보안 연구자 Boyd Kane은 공격 지점을 한 단계 더 안쪽으로 옮겨봅니다. 에이전트가 도는 컴퓨터와, 모델 가중치가 로드된 GPU 서버는 사실 다른 기계입니다. 악의적 모델이 의미는 없지만 추론 엔진의 허점을 건드리는 토큰을 뱉어내면, 그 GPU 서버를 장악할 수 있느냐는 물음이죠.

가상의 걱정만은 아닙니다. 실제로 vLLM이라는 널리 쓰이는 추론 엔진에서, 도구 호출 인자를 거의 그대로 실행해버리는 원격 코드 실행 취약점이 있었습니다. AI가 위험하다고 미리 경고했는데도 담당자가 “모델을 빨리 쓰게 하려고” 병합을 강행한 사례까지 남아 있죠. 추론 엔진이 200종이 넘는 모델 형식을 파싱하느라 복잡해질수록, 이런 구멍이 생길 여지도 커집니다.

내 방의 작은 컴퓨터들

두 글이 가리키는 방향은 같습니다. AI는 하드웨어를 이해하고 수리하고 되찾는 비용을 낮추는 동시에, 공격하는 비용도 똑같이 낮췄다는 것. 능력과 위험이 같은 문에서 나옵니다.

책상 위 웹캠이 무엇을 할 수 있는지, 이제는 붙잡고 확인해볼 수 있게 됐습니다. 그리고 바로 그 이유로, 한 번쯤 확인해봐야 하는 시대가 된 겁니다.

참고자료: LLMs could control their host machines by exploiting inference engines – Boyd Kane