LLM
AI 에이전트의 기억, 하나가 아니라 다섯 겹으로 나뉜다
왜 어떤 AI 비서는 어제 얘기한 걸 까먹고, 어떤 건 몇 달 전 대화까지 기억할까요. AI 교육자 비노드 추가니가 정리한 에이전트 기억의 5가지 아키텍처 패턴으로, “기억”이라는 한 단어 안에 실은 전혀 다른 다섯 가지 구조가 섞여 있다는 걸 풀어봅니다.
Written by
AI가 짠 코드, “작동한다”는 이제 완료의 20%일 뿐이다
6개월간 AI로 코드를 짜온 개발자 제이콥 오브라이언트는 생산성이 10배가 아니라 2배쯤 늘었다고 말합니다. “작동하는 코드”가 예전엔 작업의 80%를 뜻했다면, 이제는 20%에 가깝다는 그의 체감을 계단 오르기 비유로 풀어봅니다.
Written by
LLM이 딴소리 못 하게 만드는 법, 제약 디코딩의 원리
프롬프트로 “유효한 JSON만 출력해줘”라고 아무리 부탁해도 100% 보장은 안 됩니다. 제약 디코딩은 아예 스키마를 벗어난 토큰을 뽑을 수 없게 만드는 방식으로 이 문제를 풉니다.
Written by
AI가 답변에 붙이는 확신도 90%, 사실은 아무 근거가 없다
AI 답변에 붙는 확신도 점수는 왜 근거가 없을까요. 모델이 자기 확신을 정량화할 수 없는 이유와, 실제로는 정확성을 대신 묻는 질문일 뿐이라는 점을 짚어봅니다.
Written by
리누스 토발즈, AI 비판자에게 “리눅스 포크하거나 떠나라”
“AI는 90% 마케팅”이라던 리누스 토발즈, 이제는 리눅스가 반AI 프로젝트가 아니라고 선언. 태도 변화의 배경과 여전한 비판점을 함께 정리했습니다.
Written by
AI 에이전트가 매번 처음부터 시작하는 이유, 정보가 아니라 재사용의 문제였다
AI 에이전트가 매번 처음부터 시작하는 진짜 원인은 정보 부족이 아니라 재사용 실패. 4종류 메모리와 이를 판단하는 의사결정 트리를 다룹니다.
Written by
레딧, 매일 스팸 2300만 건을 AI로 막아낸다
AI가 스팸을 쉽게 만들지만, 레딧은 그 AI로 스팸을 막습니다. 하루 2,300만 건을 차단하는 방어 시스템을 살펴봤습니다.
Written by
RAG 컨텍스트 68% 쳐내고 정확도는 지킨 kapa.ai의 채점 방식
kapa.ai가 LLM 채점으로 RAG 컨텍스트를 68% 줄이면서도 재현율 96%를 지킨 방법. rerank 한계와 해법을 소개합니다.
Written by
LLM에 문제해결 요령 학습시켰더니 새 과제서 10% 향상
LLM에게 정답 대신 문제 해결 요령 자체를 학습시켰더니, 한 번도 본 적 없는 새 과제에서도 평균 10% 더 나은 성능을 냈다는 다기관 공동연구 논문을 소개합니다.
Written by
