# Machine_Learning # Engineering Apache Beam으로 머신러닝 데이터 파이프라인 구축하기 3편 - RunInference로 모델 추론하기 Apache Beam으로 머신러닝 데이터 파이프라인 구축하기를 주제로 하는 3번째 글로 다시 찾아뵙게 되었어요. 1편: 도입과 사용에서는 Apache Beam이 무엇이고, 핑퐁팀이 왜 Beam을 사용하게 되었는지 설명해 드렸습니다. 2편: 개발 및 최적화에서는... 김성환 | 2022년 11월 28일
# Engineering Custom Metric(ex. RPS)으로 HPA 설정하기 쿠버네티스에서 기본으로 제공하는 HPA를 이용하면 pod의 CPU 사용량에 따라 자동으로 스케일 아웃되는 시스템을 쉽게 구축할 수 있습니다. 하지만 서비스의 성격에 따라 CPU 사용량 대신 다른 지표를 이용해 오토스케일링하는 것이 더... 서남규 | 2022년 11월 16일
# Machine_Learning 루다, 눈을 뜨다! 포토챗 베타의 멀티모달 기술 소개 이루다 2.0이 정식 출시 되면서 사용자가 보낸 사진을 인식하고 답변하는 기능인 포토챗 베타(PhotoChat Beta)가 추가되었습니다. 기존의 루다는 사진 인식 기능이 탑재되지 않아 사용자가 사진을 보내면 “오 사진 뭐야?” 같은 사진과... 이재훈, 장성보, 김수정 | 2022년 11월 09일
# Engineering React Native 앱의 배포 트랙 관리하기 지난 글에서는 ‘너티’ 앱을 플랫폼별로 빌드해서 배포하는 과정을 자동화하는 방법에 대해서 알아보았습니다. 추가로 ‘너티’는 React Native로 개발이 되었기 때문에 크로스 플랫폼 지원이 가능하고, 앱 전체를 빌드해서 배포하는 바이너리 배포뿐만 아니라... 장동훈 | 2022년 10월 12일
# Machine_Learning TFX 머신러닝 파이프라인 사용하기 핑퐁팀에서는 루다의 대화 성능을 지속적으로 발전시키기 위해 Continual Learning을 연구하고 있어요. 이를 위해 새로운 데이터를 받으면 모델을 학습하고, 평가하는 일련의 과정을 수행해야 하는데, 이 모든 과정에 사람이 직접 개입하는 것은... 정채홍 | 2022년 09월 13일
# Machine_Learning VPT: 다이아몬드 곡괭이를 만들기 위한 여정 OpenAI에서 어떻게 다이아몬드 곡괭이를 만들었는지 알아봅니다. (VPT) 구상준 | 2022년 08월 17일
# Engineering # Machine_Learning AWS Inferentia를 이용한 모델 서빙 비용 최적화: 모델 서버 비용 2배 줄이기 2탄 지난 글에서는 AWS Inferentia 소개와 사용법, GPU와의 성능 비교 등을 설명해 드렸어요! 이번 글에서는 Inferentia를 실제 서비스에 도입하기 위해 핑퐁팀에서 어떤 과정들을 거쳤는지 소개해드릴게요.😋 오혜린, 김준성 | 2022년 08월 16일
# Engineering 쿠버네티스에서 노드가 추가될 때마다 슬랙 알람 쏘기 AWS의 Elastic Kubernetes Service나 GCP의 Google Kubernetes Engine 등, 대부분의 대형 클라우드 서비스는 독자적인 관리형 쿠버네티스 서비스를 제공하고 있습니다. 이러한 서비스는 해당 클라우드 벤더사에서 제공하는 컴퓨팅 엔진을 간편하게 연동할 수... 이정민 | 2022년 07월 27일
# Machine_Learning Continual Learning: 꾸준히 성장하는 모델을 만들기 위한 기술 Continual Learning은 지속적으로 들어오는 데이터 스트림을 학습하기 위한 방법입니다. 데이터가 지속적으로 주어짐에 따라 데이터의 분포 혹은 데이터가 다루는 태스크가 변화하고, 모델은 현재 주어진 데이터를 학습할 때 기존에 배운 지식을 일부... 서상우, 송제인 | 2022년 07월 20일
