일을 보조 세션으로 나눴더니, 한 번에 읽는 양은 절반 아래로 줄었어요
가장 무거운 루틴 세 개의 일을 보조 세션으로 나누고 일주일을 쟀어요. 메인 세션의 최대 문맥은 464k에서 194k로 줄었지만, 전체 토큰은 5% 줄어드는 데 그쳤어요.
Insight 인사이트
이랩스튜디오(E:LAB STUDIO)가 서비스를 만들고 운영하면서 배운 것과 생각을 정리한 글이에요. 제품 기획, 개발, AI 도구, 운영 이야기를 주제별로 모아 뒀어요.
INDEPENDENT PRODUCT STUDIO
이랩스튜디오(E:LAB STUDIO)가 서비스를 만들고 운영하면서 배운 것과 생각을 정리한 글이에요. 제품 기획, 개발, AI 도구, 운영 이야기를 주제별로 모아 뒀어요.
#AI에이전트 태그가 붙은 글이에요. 태그 풀기
가장 무거운 루틴 세 개의 일을 보조 세션으로 나누고 일주일을 쟀어요. 메인 세션의 최대 문맥은 464k에서 194k로 줄었지만, 전체 토큰은 5% 줄어드는 데 그쳤어요.
루틴 실행 기록을 실제로 재 보니 토큰을 가장 많이 쓴 건 이미지도, 긴 문서도 아니었어요. 단계마다 그 회차의 대화 전체를 다시 읽는 구조였어요.
브라우저로 글을 차례로 열어 처리하는 AI 에이전트 루틴이 같은 일을 하면서 100분이 걸리기도, 24분이 걸리기도 했어요. 원인은 모델이 아니라 오래 열려 있던 탭이었고, 규칙 세 줄을 바꾼 뒤…