Blog - LINE ENGINEERING

TAG ARCHIVES: Kubernetes

MLOps를 위한 BentoML 기능 및 성능 테스트 결과 공유 – 2
이웅규2021-11-30
안녕하세요. LINE에서 Financial Data Platform을 개발하는 이웅규입니다. 이번 글은 'MLOps를 위한 BentoML 기능 및 성능 테스트 결과 공유' 2편입니다. 1편에서는 BentoML을 선택한 이유와 서비스에 적용하기 위해 필요한 기능을 설명하고 예시를 보여드렸는데요. 이어서 이번 글에서는 BentoML을 서비스에 적용하기 위한 아키텍처와 Kubernetes 기반으로 서빙 API를 서비스에 적용하려면 꼭 필요한 기능인 무중단 배포 방법 네 가지를 말씀드리겠습니다. 또한 BentoML의 성능을 개선하기 위해 실시한 여러 실험과 개선 결과를 공유드리고 최종적으로 어떤 결론을 내렸는지 말씀드리겠습니다. 글은 두 편에 걸쳐서 아래와 같은 순서로 진행합니다. 1편 BentoML을 선택한 이유 BentoML 기능 테스트 마치며 2편 BentoML 서비스 적용(BentoML in Native Kubernetes
- Kubernetes
- Data/AI
MLOps를 위한 BentoML 기능 및 성능 테스트 결과 공유 - 1
이웅규2021-11-30
안녕하세요. LINE에서 Financial Data Platform을 개발하는 이웅규입니다. 2021년 초에 작성한 글(Airflow on Kubernetes VS Airflow Kubernetes Executor - 2) 마지막에 Kubernetes를 데이터 엔지니어링뿐 아니라 ML 기반 서비스에도 확장하고 있다고 말씀드렸는데요. 이번 글은 이전 글의 후속편으로써 ML 기반 서비스에 적용하고 있는 MLOps의 한 부분인 모델 서빙과 관련된 이야기를 하고자 합니다. 저는 MLOps가 어떤 솔루션이나 툴이 아니라 방법론이라고 생각합니다. 따라서 이를 구현하는 방법 또한 비즈니스의 성격이나 환경에 따라 다양할 수 있다고 생각합니다. MLOps는 여러 구성 요소를 포함하는데요. 사람마다 견해가 조금씩 다르지만 저는 크게 데이터 수집, 데이터 검증 및 전처리, 피처(feature) 추출 및 전처리, 지속적인 학습, 인프라 관리, 모델 관리, 모델 배포, 모델 서빙,
- Kubernetes
- Data/AI
Jenkins에서 Kubernetes 플러그인을 이용해 보다 쉽고 효율적으로 성능 테스트하기
Bryan & Miki Bryan & Miki2021-03-23
성능 테스트는 모든 LINE 서비스에서 없어서는 안되는 필수 과정입니다. 하지만 다음과 같은 이유로 성능 테스트의 환경을 설정하고 관리하는 작업이 항상 쉽고 효율적인 것은 아닙니다. 먼저, 기능과 컴포넌트, 이벤트 등에 따라 서버 워크로드의 기준이 다릅니다. 컴포넌트의 종류나 이벤트의 규모에 따라 해당 기능의 성능 기준이 달라지기 때문에 RPS(Request Per Second) 역시 천차만별입니다. 또한, 대부분의 오픈소스 성능 툴에는 다수의 테스트 실행자(executor)를 통제하거나 테스트별 결과 보고서를 통합해 주는 기능이 없습니다. 테스터가 직접 단계 별로 테스트를 진행하고 성능 테스트 스크립트를 실행하기에 적합한 수준의 장비를 찾아야 합니다. 이를 위해 신규 장비 할당과 필요한 라이브러리 설치, 스크립트 업로드, 스크립트가 테스트 장비에 과부하가 걸리지 않는 범위에서 필요한 워크로드를 생성하는지 확인하기 위한 여러 번의 시도를 거쳐야 합니다.
Kubernetes를 이용한 효율적인 데이터 엔지니어링(Airflow on Kubernetes VS Airflow Kubernetes Executor) - 2
이웅규2021-01-06
안녕하세요. LINE Financial Data Platform을 운영하고 개발하고 있는 이웅규입니다. 이 글은 지난 NAVER DEVIEW 2020에서 발표했던 Kubernetes를 이용한 효율적인 데이터 엔지니어링 (Airflow on Kubernetes VS Airflow Kubernetes Executor) 세션에서 발표 형식 및 시간 관계상 설명하기 힘들었던 부분을 조금 더 자세하게 설명하고자 작성한 두 번째 글입니다(1부). 이번 글에서는 일반적인 Kubernetes Airflow 환경과 새로운 방식의 특징 및 장단점을 비교합니다. 그리고 새로운 방식인 Kubernetes Executor와 KubernetesPodOperator를 적용해 데이터 플랫폼을 어떻게 운영하고 개발하고 있는지 말씀드리고, 이를 통해 기존보다 확장성을 높였던 경험을 공유하겠습니다.이 글은 기본적으로 Airflow를 알고 계신다는 가정 하에 작성했
- Kubernetes
- Data/AI
Kubernetes를 이용한 효율적인 데이터 엔지니어링(Airflow on Kubernetes VS Airflow Kubernetes Executor) - 1
이웅규2021-01-06
안녕하세요. LINE Financial Data Platform을 운영하고 개발하고 있는 이웅규입니다. 저는 지난 NAVER DEVIEW 2020에서 발표했던 Kubernetes를 이용한 효율적인 데이터 엔지니어링 (Airflow on Kubernetes VS Airflow Kubernetes Executor) 세션에서 발표 형식 및 시간 관계상 설명하기 힘들었던 부분을 블로그를 통해 조금 더 자세하게 설명하고자 합니다. Apache Airflow는 데이터 엔지니어링을 효율적으로 수행할 수 있도록 도와주는 오픈소스 플랫폼으로, 최신 마이너 버전인 1.10.x에 신규 피처(feature)로 'Kubernetes Executor'가 추가되었습니다. 이 피처는 일반적인 Kubernetes 환경에서 데이터를 엔지니어링할 때 발생하는 단점을 보완하고 Kubernetes의 장점을 데이터 엔지니어링에 적용할 수 있는 방법입니다. 저희 조직에서는 이를
- Kubernetes
- Data/AI
Kubernetes로 클러스터 외부 자원 관리하기
LINE Engineering2020-03-12
안녕하세요. 저는 LINE에서 LINE 개발자를 위한 서비스, Pipeline을 개발하고 있습니다. Pipeline은 테스트부터 서비스 배포까지 가능한, Kubernetes 기반 워크플로(workflow) 서비스입니다. 사용자가 코드를 검증하기 위한 테스트나 코드를 배포하기 위한 빌드 또는 주기적으로 작업을 실행하기 위한 크론(cron) 작업과 같이 실행하고 싶은 작업을 워크플로 형태로 Pipeline에 정의하면, Pipeline이 사용자가 정의한 대로 작업을 실행합니다. 작업의 결과는 다양한 형태로 나타나는데요. 파일이 산출되기도 하고 서비스가 실행되기도 합니다. 이번 글에서는 외부에서 발생한 트래픽을 Kubernetes 클러스터에서 실행되는 서비스로 전달하기 위해 필요한 Pipeline 컴포넌트를 직접 개발한 경험을 나누고자 합니다. 컴포넌
Journey to Kubernetes with Blockchain Network(+CKAD)
LINE Engineering2019-12-02
안녕하세요. LINE에서 근무하고 있는 이지홍이라고 합니다. 2018년부터 가상 화폐 LINK가 살아 숨 쉬고 있는 블록체인 시스템을 개발하고 있습니다. 저는 블록체인 네트워크에 적합한 프로비저닝 방법을 연구하고 이를 Kubernetes(이하 K8s)와 같은 도구를 활용해 구현하기까지의 여정에 대한 후기를 이번 글에서 나누고자 합니다. 글에서 언급한 블록체인 네트워크란 여러 블록체인 노드가 모인 한 그룹을 의미합니다. 이 그룹은 블록 단위로 새로운 정보를 기록하고 합의 알고리즘을 통해 합의에 성공한 블록을 체인 형태로 연결해 나갑니다. 참고로 이 글은 소프트웨어 개발과 프로비저닝에 관심 있는 독자라면 누구라도 가볍게 읽어 볼 수 있도록 작성하였고, 거기에 Docker, Mesos, K8s에 대한 101 지식과 경험이 함께 한다면 더 재미날 수 있습니다. 다음과 같은
- Kubernetes
- Blockchain
대규모 Kubernetes 클러스터 구축기
이승2019-08-08
PE(Productivity Engineering)팀에서 PIPE를 개발하고 있습니다.
LINE에서는 개발자가 개발에만 집중할 수 있도록 개발 외의 인프라 관련 업무를 대신 수행해 주는 Kubernetes 기반 서비스 Nucleo를 자체 개발하여 LINE 내부용으로 사용하고 있습니다. Nucleo에는 현재 800여 개의 앱이 약 4,000개의 pod로 서비스되고 있는데요. 앱의 개수는 계속 빠르게 증가하고 있습니다. 모든 워크로드는 개발 구역(region)에 약 60대, 운영 구역에 약 80대가 설치된 PM(physical machine)과 VM(virtual machine)으로 운영하고 있으며, 그 외에 Nucleo 개발용 클러스터가 약 3~40개, feature 테스트용 노드 3개로 이루어진 미니 클러스터 약 20~30개 가량이 구동되고 있습니다. 이렇게 다수의 Kubernetes 클러스터를 운영하기 위해서는 빠르고 안정적으로 Kubernetes
- Kubernetes
딥다이브: Immutable Kubernetes Architecture
어형부형2018-07-31
LINE에서 kubernetes로 cloud native platform을 개발, 운영 중인 이어형입니다.
안녕하세요? LINE Infra Platform 팀에서 사내 클라우드 네이티브 서비스인 Nucleo의 운영 및 개발을 담당하고 있는 이어형입니다. 지난 6월 29일 Open Infra Days Korea의 세션 중 하나인 "딥다이브: Immutable Kubernetes Architecture" 세션에서 발표한 내용, 즉 안전하게 Kubernetes(이하 'k8s')를 구축하고 운영하고 관리하기 위한 기술을 소개해 드리려고 합니다. 제 세션의 자료와 동영상을 보실 수 있도록 공유해 드리니 아래의 자료를 참고해 주세요. Immutable Infrastructure 시스템 관리자로서 내가 가장 무서워하는 것 중 하나는 오랜 기간 운영된 서버, 특히 시스템과 응용 프로그램을 여러 번 업그레이드한 서버입니다.왜일까요? 오래된 시스템은 필연적으로 보이지 않는 문제를 키우기 때문입니다....업그레이드가 필요한가요? 문제 없습니다. 업그레이드된 신규 시스템을 도입하고 이전 것을 버리세요.
- Kubernetes

1