45일차.

 

폴더 파일 생성 , 위에서 붙여넣기

 

 

---

KoELECTRA 모델을 사용해서 , 영화 리뷰를 작성하면, 긍정, 부정 감성분석을 하는 서비스를 만들려고 해. 허깅페이스에서 다운 받은 모델을 구성하는 아키텍처 전략을 알려줘. -sonet 으로 하기

 

핵심 아키텍처 전략 요약

1. 계층 구조

• API Layer: FastAPI 라우터 (요청/응답 처리)

• Service Layer: 비즈니스 로직 및 전처리/후처리

• Model Layer: 모델 로딩 및 추론 (싱글톤 패턴)

2. 모델 로딩 전략

• 싱글톤 패턴: 서버 시작 시 모델을 한 번만 로드하여 메모리 효율화

• Lazy Loading 옵션: 첫 요청 시 로드 가능

• 메모리 최적화: GPU 사용, 배치 처리 고려

3. 폴더 구조

 

 

app/nlp/review/

├── emotion_model.py      # 모델 로딩 및 추론

├── emotion_service.py    # 비즈니스 로직

└── emotion_router.py     # FastAPI 라우터

 

 

 

 

 

4. API 엔드포인트

• POST /api/ml/review/sentiment - 단일 텍스트 분석

• POST /api/ml/review/sentiment/batch - 배치 분석

• GET /api/ml/review/model/info - 모델 정보

문서 위치: mdfile/KOELECTRA_SENTIMENT_ARCHITECTURE.md다음 단계:

1. 기본 파일 구조 생성

1. 모델 로딩 코드 구현

1. API 엔드포인트 구현

 

 

---

 

 

 

 

파일 및 폴더 만들기

 

 

@ai.seoeunjin.com/transformerservice/app/koelectra/koelectra_service.py 여기에 @ai.seoeunjin.com/transformerservice/app/koelectra/koelectra_model 이 모델과 연결해서, postman에서 감정이 있는 문장을 입력하면, 감성을 분석해서 json으로 리턴하는 메소드를 생성해줘.

 

 

@docker-compose.yaml 여기에 @ai.seoeunjin.com/transformerservice 이 서비스를 컨테이너로 만드는 코드를 추가해줘.

 

local에 게이트웨이랑 트랜스포머 서비스만 넣고 나머지 지우기, 너무 느려서 그럼

 

@docker-compose.yaml gateway와 transformerservice 컨테이너 2개만 띄워줘

 

 

토치313으로 들어가서

 

# gateway + transformerservice 실행
docker compose up

# 백그라운드 실행
docker compose up -d

# 특정 서비스만 실행
docker compose up gateway
docker compose up transformerservice

 

 

 

 

 

 

어제 만든 파일 여기에 넣기

 

 

 

local에 게이트웨이랑 트랜스포머 서비스만 넣고 나머지 지우기, 너무 느려서 그럼

 

@docker-compose.yaml gateway와 transformerservice 컨테이너 2개만 띄워줘

 

 

local이 모든 파일 다 있는 것

도커 컴포즈 야믈-파일에 두개만 남기기

 

 

 

 

 

스웨거가 아무런 값이 없다고 나와. 이 부분을 수정해줘

 

 

 

 

 

경로 확인하는 방법!!

 

 

허깅페이스 홈페이지 회원가입함!!

 

 

아침에 다운 받은 파일을 여기에 넣어야함!! 

 

 

 

 

 

 

우선 오늘은 이거 까지 하고 이제 랭체인은 다른파일에 하기로 함!

 

 

 

---

 

 

 

저 폴더 위치에서 터미널 열기.

 

 

다음 구조에서 langchain 은 이 위치에서 터미널 열고 conda activate torch313 한 후 

git clone https://github.com/langchain-ai/langchain

이 명령어를 실행하면 , 다음과 같은 구조의 랭체인 폴더가 생성됩니다.