전체 글 썸네일형 리스트형 REST / FastAPI란 무엇인가? REST APIREST(Representational State Transfer)는 웹에서 데이터를 주고받는 약속 (특정 프레임워크 아님)데이터를 URL로 표현함HTTP 메서드로 행위를 구분함Stateless: 서버가 이전 요청을 기억하지 않고 하나하나 독립적임보통 JSON 형식으로 데이터를 교환함REST를 파이썬으로 쉽게 구현하도록 만든 프레임워크가 바로 FastAPIHTTP 요청의 형태 → 클라이언트POST /api/search ← ① 메서드 + 주소Content-Type: application/json ← ② 헤더(편지 봉투의 메모){ "title": "키오스크가 느려요" } ← ③ 본문(body, 실제 내용) HTTP 응답의 형태 → 서버200 OK .. 더보기 [1/11] 아이펠 리서치 15기 TIL | [논문 리뷰] Segment Anything 이번 논문은 Meta에서 발표한 Segmentation 모델 SAM이다.SA 프로젝트의 주요 구성 요소는 크게 Task, Model, Data로 나눌 수 있으며, 이번 포스팅에서도 이 세 가지를 중심으로 작성할 것이다. Segment Anything1. Task1.1. 배경기존에는 특정 클래스를 학습해야 그 클래스에 대한 segmentation이 가능했었다.근데 NLP에서는 Foundation Model이 강력한 제로샷, 퓨샷 일반화 능력을 보였는데,여기서 영감을 받아 Segmentation 분야의 Foundation Model을 구축해보자는 아이디어로 Task를 정의함.1.2. Promptable Segmentation Task사용자가 제공하는 모든 종류의 프롬프트에 대해 하나 이상의 유효한 마스크를 .. 더보기 [1/5] 아이펠 리서치 15기 TIL | [논문 리뷰] DeepSeek-V3 Technical Report: Efficiency at Scale 이번 논문은 DeepSeek-V3의 Technical Report이다.해당 연구에서는 DeepSeek-V3 모델의 아키텍처와 효율적인 학습 방법론을 다룬다. DeepSeek-V3 Technical Report: Efficiency at Scale 이번 포스팅에서는 논문의 핵심이자 가장 중요한 부분인 DeepSeek-V3 모델의 주요 아키텍처(MLA, DeepSeekMoE, MTP)만 다룰 예정이다.1. Introduction먼저, DeepSeek-V3의 주요 성과는, 당시 오픈소스 SOTA 모델이라는 점과 모델 크기 대비 학습 비용을 크게 줄였다는 점이 있고, 해당 논문은 어떻게 이런 결과를 낼 수 있었는지에 대해 기술한 테크니컬 리포트이다.DeepSeek-V3는 671B의 총 파라미터와 각 토큰당 37.. 더보기 [12/30] 아이펠 리서치 15기 TIL | [논문 리뷰] Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena 슬로우 페이퍼 두 번째 논문은 개방형 대화 모델을 평가하기 위한 도구로 LLM을 사용하는 것을 제안하고, GPT-4와 같은 강력한 LLM이 인간의 선호도와 80% 이상의 높은 일치율을 보이므로 확장 가능한 평가 도구로 활용될 수 있음을 입증한 연구이다. Judging LLM-as-a-Judge with MT-Bench and Chatbot ArenaAbstract개방형 대화 모델을 평가하기에 기존의 벤치마크는 부적절하기 때문에 LLM을 judge로 활용하는 것을 탐색한다.LLM-as-a-Judge의 한계(position, verbosity, self-enhancement bias, limited reasoning ability)와 그 중 일부를 완화하기 위한 해결책을 제시한다.MT-bench, Chatb.. 더보기 [12/26] 아이펠 리서치 15기 TIL | [논문 리뷰] Retrieval-Augmented Generation for Large Language Models: A Survey 슬로우 페이퍼 과정이 시작됐다. 이번 논문은 RAG의 배경과 발전 과정에 대한 내용을 정리한 survey 논문이다.Retrieval-Augmented Generation for Large Language Models: A Survey (2024) 슬로우 페이퍼 과정 포스팅은 파트별 중요하다고 생각되는 내용과 간략한 줄거리 정도만 정리할 예정이다.논문을 읽기 전 이 포스팅을 참고했다.Abstract기존의 LLM은 환각, 최신 정보 부족, 불투명한 추론 과정 등과 같은 문제가 있다.RAG는 외부 DB의 지식을 통합해서 이 문제점들을 해결할 수 있으며, 지속적인 지식 업데이트와 도메인 특화 정보의 통합을 가능하게 한다.Introduction기존 LLM의 환각 문제를 극복하기 위해 RAG는 유사도 기반으로 외부.. 더보기 [12/15] 아이펠 리서치 15기 TIL | Model Serving (TorchServe) 이번 포스팅은 TorchServe를 이용한 모델 서빙에 대해 정리한 내용이다. 모델 학습(Pretrained + Fine-tuning)에 관한 내용은 지난 포스팅에서 다루었기 때문에, 이번에는 학습/평가 과정은 간략히 기술하고, 모델 서빙 과정을 집중적으로 다룬다.모델 학습/평가# 라이브러리 설치 및 로드!pip install datasets torchserve torch-model-archiver torch-workflow-archiver nvgpuimport torchimport torch.nn.functional as Fimport matplotlib.pyplot as pltimport seaborn as snsfrom torch.utils.data import DataLoaderfrom trans.. 더보기 [12/12] 아이펠 리서치 15기 TIL | Kubernetes(K8s): minikube 이전 포스팅에서는 오케스트레이션 시스템인 Docker Swarm을 다루었다.이번엔 가장 표준적으로 사용되는 오케스트레이션 시스템인 구글의 Kubernetes에 대해서 알아보자.쿠버네티스는 컨테이너화된 애플리케이션의 배포, 확장, 관리 자동화를 담당하는데, 공부할 내용이 굉장히 방대하다고 한다.이번 포스팅에서는 간단하게 minikube를 이용해 실습해보겠다.minicube 가이드 링크 일단 설치부터 해보자.(필자는 우분투 환경)curl -LO https://github.com/kubernetes/minikube/releases/latest/download/minikube-linux-amd64sudo install minikube-linux-amd64 /usr/local/bin/minikube && rm m.. 더보기 [12/12] 아이펠 리서치 15기 TIL | Docker Swarm 이번엔 서버에 트래픽이 몰렸을 때 서버가 다운되는 것을 방지하기 위한 부하분산 방법에 대해 알아보자.이번 포스팅도 아래의 깃허브를 바탕으로 진행된다.(./dockers/swarm)https://github.com/KennethanCeyer/mlops-quicklab GitHub - KennethanCeyer/mlops-quicklab: A repository for understanding MLOps pipeline.A repository for understanding MLOps pipeline. Contribute to KennethanCeyer/mlops-quicklab development by creating an account on GitHub.github.com Docker swarm이란?D.. 더보기 이전 1 2 3 4 ··· 11 다음
