Netflix OSS

• 50개 이상의 사내 프로젝트를 오픈소스로 공개
• 플랫폼(AWS) 안의 여러 컴포넌트와 자동화 도구를 사용하면서 파악한 패턴과 해결 방법을 블로그, 오픈 소스로 공개

Image Removed

출처: https://netflixtechblog.com/netflixoss-season-2-episode-1-b477d8879799

Spring Cloud

• Spring Cloud 란
• 교집합이 spring-cloud-netflix

Image Removed

모놀리틱의에서의 의존성 호출

...

Failure as a First Class Citizen

• 분산 시스템, 특히 클라우드 환경에선 실패(Failure) 는 일반적인 표준이다.
• 모놀리틱엔 없던(별로 신경 안썼던..) 장애 유형
• 한 서비스의 가동율(uptime) 최대 99.99%
  • 99.99^30 = 99.7% uptime
  • 10 억 요청 중 0.3% 실패 = 300만 요청이 실패
  • 모든 서비스들이 이상적인 uptime 을 갖고 있어도 매 달마다 2시간 이상의 downtime 이 발생

Image Removed

출처: https://github.com/Netflix/Hystrix/wiki

Circuit Breaker - Hystrix

• Latency Tolerance and Fault Tolerance for Distributed Systems

Hystrix 적용하기

@HystrixCommand 
public String anyMethodWithExternalDependency() {
 URI uri = URI.create("http://172.32.1.22:8090/recommended"); 
 String result = this.restTemplate.getForObject(uri, String.class); 
 return result; 
}

• 위의 메소드를 호출할 때 벌어지는 일
  • 이 메소드 호출을 'Intercept' 하여 '대신' 실행
  • 실행된 결과의 성공 / 실패 (Exception) 여부를 기록하고 '통계'를 낸다.
  • 실행 결과 '통계'에 따라 Circuit Open 여부를 판단하고 필요한 '조치'를 취한다.

Hystrix - Circuit Breaker

• Circuit Open
  • Circuit이 오픈된 Method는 (주어진 시간동안) 호출이 '제한'되며, '즉시' 에러를 반환한다.
• Why ?
  • 특정 메소드에서의 지연 (주로 외부 연동에서의 지연)이 시스템 전체의 Resource 를 (Thread, Memory등)를 모두 소모하여 시스템 전체의 장애를 유발한다.
  • 특정 외부 시스템에서 계속 에러를 발생 시킨다면, 지속적인 호출이 에러 상황을 더 욱 악화 시킨다.
• So !
  • 장애를 유발하는 (외부) 시스템에 대한 연동을 조기에 차단 (Fail Fast) 시킴으로서 나의 시스템을 보호한다.
• 기본 설정
  • 10초동안 20개 이상의 호출이 발생 했을때 50% 이상의 호출에서 에러가 발생하 면 Circuit Open
• Circuit이 오픈된 경우의 에러 처리는 ? - Fallback 
  
  • Fallback method는 Circuit이 오픈된 경우 혹은 Exception이 발생한 경우 대신 호출될 Method. 
  • 장애 발생시 Exception 대신 응답할 Default 구현을 넣는다.

@HystrixCommand(commandKey = “ExtDep1”"ExtDep1", fallbackMethod=“recommendFallback”"recommendFallback") 
public String anyMethodWithExternalDependency1() {
 URI uri = URI.create("http://172.32.1.22:8090/recommended"); 
 String result = this.restTemplate.getForObject(uri, String.class); 
 return result; 
}

public String recommendFallback() { 
 return "No recommend available"; 
} 

...

@HystrixCommand(commandKey = “ExtDep1”"ExtDep1", fallbackMethod=“recommendFallback”"recommendFallback", 
 
commandProperties = { 
 @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "500") 
}) 
public String anyMethodWithExternalDependency1() {
 URI uri = URI.create("http://172.32.1.22:8090/recommended"); 
 String result = this.restTemplate.getForObject(uri, String.class); 
 return result; 
}

public String recommendFallback() { 
 return "No recommend available"; 
} 

...