AI 개발 가이드
에이전트를 한꺼번에 굴리는 비동기 패턴, 함정은 패턴마다 다르다
AI 에이전트를 asyncio로 동시에 실행하는 fire-and-forget, scatter-gather, 세마포어 백프레셔 등 비동기 패턴과 각 패턴에 숨은 프로덕션 함정을 정리했습니다.
Written by
지시문 파일은 왜 늘기만 하는가, MS가 정리한 덜어내기 기준
마이크로소프트가 정리한 instructions 파일 위생 관리법. 프론티어 모델에게 여전히 말해줘야 하는 다섯 가지와, 빼도 되는 것들을 구분하는 기준을 소개합니다.
Written by
에이전트 호출의 7%가 비용의 68%, 모델 라우팅으로 74% 아끼기
에이전트 호출 대부분은 최고 성능 모델이 필요 없습니다. LangChain의 측정 결과와 NeMo Switchyard 라우팅, 그리고 언제 이득인지 판단하는 공식을 정리합니다.
Written by
코딩 에이전트엔 동적 언어가 토큰 효율적이라는 통념의 함정
동적 언어가 코딩 에이전트의 토큰을 덜 먹는다는 널리 퍼진 주장을 댄 루가 자체 실험으로 반박합니다. 사소한 벤치마크가 만든 착시라는 지적과, 실제 규모의 과제에서 언어별 토큰 순위가 무너지는 이유를 개발자 관점에서 정리했습니다.
Written by
폰과 라즈베리파이에서 도는 에이전트, LFM2.5-2.6B가 지운 토큰 비용
에이전트를 클라우드에 붙이면 토큰이 곧 돈입니다. Liquid AI가 공개한 2.6B 모델은 폰과 CPU에서 돌면서 도구 호출과 다단계 작업을 해냅니다. 토큰 비용이 0이 되면 에이전트를 쓰는 방식 자체가 어떻게 달라지는지, 라즈베리파이 음성 에이전트 사례와 함께 짚었습니다.
Written by
코딩 에이전트는 grep으로 코드를 읽는다, 68만 줄을 AI로 짠 팀이 정리한 규칙
함수 이름을 바꿨을 뿐인데 에이전트가 뒤지는 파일이 459개에서 3개로 줄었습니다. 코드베이스 68만 줄의 99.9%를 LLM으로 작성한 Modem 팀이 코딩 에이전트가 grep으로 코드를 읽는다는 전제 아래 이름·타입·구조를 다시 짠 과정을 공개했습니다. 1,680회 실험에서 토큰 소비는 최대 65% 줄었고, 확신에 찬 오답도 사라졌습니다.
Written by
레포 클론해서 코딩 에이전트로 열었을 뿐인데, 프롬프트 전에 코드가 실행됐다
채용 과제나 오픈소스 디버깅처럼 흔한 상황에서, 레포를 클론해 코딩 에이전트로 열기만 해도 프롬프트를 입력하기 전에 공격자 코드가 실행될 수 있습니다. Datadog 보안팀이 Codex와 Claude Code에서 실제로 그 경로를 찾아냈습니다.
Written by
Qwen3.6 27B 58개 버전으로 확인한 양자화의 숨은 임계점
로컬 모델을 양자화해도 벤치마크 점수는 멀쩡한데, 정작 아는 것만 줄어드는 느낌을 받은 적 있나요. Qwen3.6 27B를 58개 버전으로 나눠 테스트한 결과, 지식만 유독 비선형으로 무너지는 지점이 있었습니다.
Written by
벡터DB 없이 numpy 한 줄로 백만 건 검색한 결과
검색엔진 전문가 더그 턴불이 numpy 한 줄로 백만 건 규모의 임베딩을 브루트포스 검색한 실측 결과를 공개했습니다. 초당 80건 안팎의 처리 속도로, 벡터DB 없이도 충분한 상황이 생각보다 많다는 걸 보여줍니다.
Written by
LLM이 딴소리 못 하게 만드는 법, 제약 디코딩의 원리
프롬프트로 “유효한 JSON만 출력해줘”라고 아무리 부탁해도 100% 보장은 안 됩니다. 제약 디코딩은 아예 스키마를 벗어난 토큰을 뽑을 수 없게 만드는 방식으로 이 문제를 풉니다.
Written by
