랭그래프1 랭그래프를 활용한 Multi Agent 구현과 느낀점 랭그래프를 활용해서 질의에 따라 다른 에이전트를 동작시켜 봤습니다.확실히 그래프로 보면서 구현하니 직관적이었습니다.구현하면서 가장 큰 문제점은 원활한 자원관리였습니다.한정된 자원에서 원활한 자원을 확보하기 위해서는 쓰고 나서 바로바로 비워줘야 했습니다. 두 번째 문제점은 속도였습니다. 하나의 서버에서 여러 개의 에이전트를 초기화 하다 보니 시간이 많이 걸리기도 했고, 모델 초기화에서도 시간을 많이 잡아 먹었습니다. 아무리 추론속도를 높여도 한계는 있었습니다. 그리고 멀티 에이전트가 하나의 질의를 여러개의 에이전트에 태우는 건지 아니면 이렇게 병렬식 구조인지는 잘 모르겠습니다. 직렬 방식이라면 Output에서 매번 체크를 해야 오류를 최소화하지 않을까 생각합니다.하나의 모델에서 모든게 가능하다면 좋지만 그.. 2025. 4. 22. 이전 1 다음 728x90
