LLM Agent 전체 파이프라인
llama.cpp 기반 로컬 LLM 에이전트의 전체 구조를 4개 레벨로 나눠서 시각화.
레벨 1: 가장 큰 그림 — 사용자부터 최종 답변까지
레벨 2: 클라이언트 내부 — agent loop 상세
현재 tool_calls.py가 구현하는 영역. 루프가 없으면 두 번째 tool_call부터 처리 불가.
레벨 3: LLM 서버 내부 — 요청이 들어왔을 때
llama.cpp 서버가 요청을 받아서 처리하는 흐름.
레벨 4: pi-sdk 기준 전체 레이어 스택
Rust로 재구현할 때 레이어 설계 참고용.
각 레벨과 현재 프로젝트 대응
| 레벨 | 내용 | 현재 상태 |
|---|---|---|
| 레벨 1 | 전체 그림 | 개념 이해 완료 |
| 레벨 2 | agent loop | Python 구현 중 (루프 미완성) |
| 레벨 3 | llama.cpp 서버 내부 | 이해 완료 |
| 레벨 4 | pi-sdk 레이어 구조 | Rust 재구현 시 참고 |
관련
- pi-agent-core-loop — agent loop 상세 분석
- research/tool-call-llm/how-tool-call-decision-works — tool call 판단 원리
- research/tool-call-llm/why-tool-call-loop-is-needed — 루프가 필요한 이유