[실습] 하나의 EC2에서 백엔드 서버 2개를 로드 밸런싱 시키기

JSCODE 박재성

2026. 04. 02.

✅ 구현하고자 하는 인프라 구성

✅ 하나의 EC2에서 백엔드 서버 2개를 로드밸런싱 시키기

1. EC2에 백엔드 서버(Spring Boot) 2개 띄우기
현재 8080번 포트에는 Spring Boot 서버를 이전에 실행시켜둔 상태이니, 8081번 포트에 추가적으로 Spring Boot를 띄울 수 있도록 하자.

$ cd ~/nginx-backend-springboot/build/libs
$ nohup java -jar nginx-backend-springboot-0.0.1-SNAPSHOT.jar --server.port=8081 &

 

2. 8080번 포트, 8081번 포트에 Spring Boot 서버가 잘 띄워졌는 지 확인하기

$ lsof -i:8080
$ lsof -i:8081

 

3. Nginx 설정 변경하기
/etc/nginx/conf.d/websites/api.jscode.p-e.kr.conf

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=3r/s;

# 로드 밸런싱 대상 서버들을 upstream이라는 그룹으로 묶음
# upstream 그룹의 이름은 backend라고 지정
upstream backend {
        server localhost:8080;
        server localhost:8081;
}

server {
        limit_req zone=mylimit;
        limit_req_status 429;
        server_name api.jscode.p-e.kr;

				# upstream 그룹에서 지정한 서버들로 요청이 분산됨
        location / {
                proxy_pass http://backend;
        }

    listen 443 ssl; # managed by Certbot
    ssl_certificate /etc/letsencrypt/live/api.jscode.p-e.kr/fullchain.pem; # managed by Certbot
    ssl_certificate_key /etc/letsencrypt/live/api.jscode.p-e.kr/privkey.pem; # managed by Certbot
    include /etc/letsencrypt/options-ssl-nginx.conf; # managed by Certbot
    ssl_dhparam /etc/letsencrypt/ssl-dhparams.pem; # managed by Certbot

}
server {
    if ($host = api.jscode.p-e.kr) {
        return 301 https://$host$request_uri;
    } # managed by Certbot


        listen 80;
        server_name api.jscode.p-e.kr;
    return 404; # managed by Certbot


}

 

4. 변경된 Nginx 설정 적용시키기

# Nginx 설정 파일 중 문법 에러가 있는 지 체크
$ sudo nginx -t

# Nginx의 설정 파일이 바뀐 경우 아래 명령어를 입력해줘야 설정 파일이 반영된다.
$ sudo nginx -s reload

 

5. 실제로 로드 밸런싱이 되는 지 확인하기
새로 고침을 할 때마다 2개의 서버가 번갈아 응답하는 걸 확인할 수 있다. 즉, 로드 밸런싱이 정상적으로 잘 이루어지고 있음을 알 수 있다.