LLM 보관 - Cozlab

2026년 07월 18일

[컨텍스트] 4. 기억 : 긴 대화의 컨텍스트 관리

오래 도는 에이전트는 컨텍스트가 쌓이다 상한다. 잘라내기·요약·세션 밖 저장 — 세 가지 도구를 언제 어떻게 쓸지 정리하며 시리즈를 닫는다.

2026년 07월 16일

에이전트 성능의 절반은 도구 설명에서 갈린다. 모델은 그 설명을 보고 언제·어떻게 도구를 쓸지 판단한다. 좋은 도구 정의의 조건.

2026년 07월 14일

컨텍스트 윈도우는 예산이다. 관련 없는 토큰은 성능과 비용을 동시에 갉아먹는다. 검색·정리·요약·캐싱으로 예산을 지키는 법.

2026년 07월 11일

프롬프트 한 줄 잘 쓰는 시대는 지났다. 이제는 모델에게 들어가는 컨텍스트 전체를 설계하는 일, 컨텍스트 엔지니어링이 핵심이다.

2026년 06월 17일

날씨 예제는 예제일 뿐이다. 이미 굴러가는 사내 REST API를 MCP 도구로 감싸면, 챗봇이 우리 시스템과 대화하기 시작한다.

2026년 06월 10일

말로만 개념을 잡으면 안 와닿는다. 파이썬으로 도구 하나 노출하는 최소 MCP 서버를 직접 만들어 본다. 데코레이터 하나면 끝이다.

2026년 06월 07일

도구 하나 붙일 때마다 매번 다른 방식으로 연동하다 지쳤다. MCP는 그 연결을 표준으로 만든 규격이다. USB-C에 비유해 개념을 잡아본다.

2026년 06월 03일

검색한 문서를 프롬프트에 넣고 근거만으로 답하게 만드는 마지막 단계. 환각을 줄이는 지시문과 프롬프트 캐싱까지.

2026년 05월 21일

사내 문서 챗봇을 만들다 파인튜닝을 접고 RAG로 돌아선 이유. 문서가 계속 바뀌는 환경에서 재학습은 답이 아니었다.