반응형 분류 전체보기62 [LLM × API x MCP] FastAPI 서버 vs MCP 서버, LangChain에서 Tool로 사용하는 방법 비교 및 실습 예제 이번 예제에서는 다음과 같은 간단한 함수 add(a, b)를 기반으로 각 방식을 비교합니다.LangChain, Claude, LangGraph 등 현대 LLM 프레임워크들은 외부 API를 Tool처럼 호출하는 기능을 지원합니다.이때 API를 연결하는 방식에는 크게 2가지가 있습니다:기존 FastAPI API를 LangChain Tool로 wrapping 하여 사용하는 방식MCP(Machine Callable Program) 서버를 구성하여 Tool로 제공하는 방식또한 MCP 서버를 만들 때도 두 가지 형태가 있습니다:파이썬 파일 실행형 MCP 서버 (stdio 방식)HTTP 서버형 MCP 서버 (streamable-http 방식)이 포스팅에서는 위 모든 방식을 비교하고, 각각의 튜토리얼을 제공해 드립니다.. 2025. 6. 18. [무결성 검사] sha256sum으로 분할 압축 파일의 무결성 테스트하기 (Ubuntu & Windows) 대용량 파일 전송이나 멀티 파트 압축 파일 처리 시, 파일 손상 여부를 확인하기 위해 **해시값(Checksum)**을 사용하는 것은 매우 중요한 작업입니다.이번 포스팅에서는 example.gz.gzaa, example.gz.gzab, example.gz.gzac, example.gz.gzad처럼 분할된 압축 파일의 무결성을 sha256sum으로 확인하는 방법을 Ubuntu와 Windows 환경에서 모두 소개합니다. 1. 준비된 분할 압축 파일 목록예를 들어 다음과 같은 분할 압축 파일이 있다고 가정합니다example.gz.gzaaexample.gz.gzabexample.gz.gzacexample.gz.gzad 2. Checksum 파일 생성하기 (Ubuntu 기준)2.1 : 터미널에서 해당 디렉터리로 .. 2025. 6. 11. [Docker] vllm에서 OpenSource 모델 Qwen3 서빙하기(Langchain 연동) LLM(Large Language Model)을 직접 호스팅하고 싶으신가요? 이번 포스팅에서는 vLLM 기반 Docker 환경에서 Qwen3-32B 모델을 서빙하는 방법과 함께, LangChain을 활용한 batch 및 streaming 방식 호출 방법까지 상세히 소개합니다.1. vLLM이란?vLLM은 효율적인 LLM 서빙을 위한 고성능 프레임워크로, OpenAI API와 호환되는 엔드포인트를 제공합니다. HuggingFace의 오픈소스 모델을 불러와 빠르게 서빙할 수 있어 기업용 LLM 서빙 환경이나 RAG 시스템 구축에 최적화되어 있습니다.2. 실습 모델: Qwen/Qwen3-30B-A3B 모델Qwen3-30B-A3B는 Alibaba Qwen3 시리즈의 고성능 오픈소스 LLM 중 하나로, Mixtur.. 2025. 6. 11. [LLM 논문 리뷰] Microsoft GraphRAG: 전역 요약을 위한 그래프 기반 RAG 접근법 From Local to Global: A GraphRAG Approach to Query-Focused Summarization1. Introduction전통적인 RAG(Retrieval-Augmented Generation)는 대용량 문서에서 일부 관련 정보를 검색해 LLM이 응답하도록 하는 방식입니다. 하지만 이런 vector 기반 RAG는 "데이터셋에서 핵심 주제는 무엇인가?" 같은 전반적인 통찰(global sensemaking) 질문에는 적합하지 않습니다.이를 해결하기 위해 Microsoft는 GraphRAG를 제안합니다. 이 방식은 LLM을 이용해 지식 그래프를 생성하고, 그래프 기반 커뮤니티 요약을 통해 전역적인 응답을 생성합니다. Map-Reduce 방식으로 부분 응답을 결합해 최종 응답.. 2025. 4. 14. [Docker] CentOS 7 폐쇄망에서 Docker 프로그램 배포하기 이번 포스팅에서는 폐쇄망에서 Docker 프로그램을 배포하는 방법을 포스팅 하겠습니다. 1. 폐쇄망이란?폐쇄망(오프라인 네트워크)이란, 외부(인터넷)과의 연결이 전혀 없는 네트워크 환경을 의미합니다.회사 내부망, 보안이 철저한 연구소, 군 기관 등에서 이러한 폐쇄망 환경이 자주 사용됩니다.외부 인터넷 접근이 불가능하므로, 필요한 패키지와 설치 파일, Docker 이미지 등을 사전에 준비해서 내부망(또는 USB, DVD 등 물리 매체)을 통해 옮겨야 합니다.2. 준비사항폐쇄망 환경에서 Docker를 설치하고, 프로그램을 배포하기 위해서는 다음과 같은 준비가 필요합니다.2.1 Docker 설치 RPM 파일 준비Docker 설치를 위한 RPM 패키지 다운로드일반적으로 docker-ce, docker-ce-c.. 2025. 2. 14. [Docker] Docker-compose를 이용한 Airflow 초기 설정방법 이번 포스팅에서는 Docker-compose.yaml 파일을 이용하여 Airflow를 설치하고 Dag를 사용하는 방법을 포스팅 하겠습니다.0. docker_airflow_tutorial 디렉토리docker_airflow_tutorialㄴ volumes ㄴairflow ㄴdags ㄴtest_dag.py ㄴlogs ㄴconfig ㄴplugins ㄴpython_files ㄴ test_python.py ㄴpostgres_airflowㄴdocker-compose.yaml 1. Docker-compose.yaml 파일 만들기1.1 Airflow Docker-compose... 2025. 2. 4. 이전 1 2 3 4 ··· 11 다음 반응형
