파이프라인이 매번 먹는 고정 비용 — 자료를 어디에 두느냐의 문제
앞 글 에서 도구 응답이 토큰을 잡아먹는 얘기를 했다. 그건 도구가 말이 많아서 생긴 문제였고, 응답을 깎으니 해결됐다. 그런데 응답을 다 깎고도 남는 비용이 있었다. 이번엔 그 얘기다. 정해진 순서로 돈다는 것 글 하나를 자동으로 뽑으려면…
앞 글 에서 도구 응답이 토큰을 잡아먹는 얘기를 했다. 그건 도구가 말이 많아서 생긴 문제였고, 응답을 깎으니 해결됐다. 그런데 응답을 다 깎고도 남는 비용이 있었다. 이번엔 그 얘기다. 정해진 순서로 돈다는 것 글 하나를 자동으로 뽑으려면…
앞 글 에서 발행 도구를 MCP 서버로 만든 이야기를 했다. 만들고 나서 한동안은 잘 썼다. 그러다 문제가 터졌다. 어느 날 글 다섯 편을 올리고 사후에 태그와 본문을 고치는 작업을 한 세션에서 처리했는데, 토큰이 예상보다 훨씬 많이…