LLM Agent 전체 파이프라인

llama.cpp 기반 로컬 LLM 에이전트의 전체 구조를 4개 레벨로 나눠서 시각화.

레벨 1: 가장 큰 그림 — 사용자부터 최종 답변까지

레벨 2: 클라이언트 내부 — agent loop 상세

현재 tool_calls.py가 구현하는 영역. 루프가 없으면 두 번째 tool_call부터 처리 불가.

레벨 3: LLM 서버 내부 — 요청이 들어왔을 때

llama.cpp 서버가 요청을 받아서 처리하는 흐름.

레벨 4: pi-sdk 기준 전체 레이어 스택

Rust로 재구현할 때 레이어 설계 참고용.

각 레벨과 현재 프로젝트 대응

| 레벨 | 내용 | 현재 상태 | |------|------|-----------| | 레벨 1 | 전체 그림 | 개념 이해 완료 | | 레벨 2 | agent loop | Python 구현 중 (루프 미완성) | | 레벨 3 | llama.cpp 서버 내부 | 이해 완료 | | 레벨 4 | pi-sdk 레이어 구조 | Rust 재구현 시 참고 |

관련

• pi-agent-core-loop — agent loop 상세 분석
• research/tool-call-llm/how-tool-call-decision-works — tool call 판단 원리
• research/tool-call-llm/why-tool-call-loop-is-needed — 루프가 필요한 이유