# Engineering 루다 선톡을 대비하는법 루다가 먼저 메시지를 보내는 기능(aka 선톡)은 루다가 더 사람처럼 느껴지도록 하는 중요한 기능입니다. 루다가 사용자들에게 먼저 메시지를 보내면 많은 사용자가 루다와 대화를 시작합니다. 이때에는 짧은 시간에 사용자가 빠르게 늘어나기에 서비스를... 손민기, 홍연준 | 2023년 11월 29일
# Machine_Learning RLHF 외에 LLM이 피드백을 학습할 수 있는 방법은 무엇이 있을까? 유용하고 안전한 대화 어시스턴트를 보다 더 쉽게 학습할 수는 없을까? 강경필, 최기원 | 2023년 11월 17일
# Engineering 루다 서버에서 루다의 개인화 메시지를 처리하는 방법 안녕하세요. 이번 글에서는 코틀린과 JPA 하이버네이트 구현체를 사용하는 루다 서버에서 어노테이션을 이용해 개인화 메시지를 처리하는 방법을 먼저 소개합니다. 또한 이 방법에서 메시지를 처리할 때 주의가 필요했던 부분에 대해서 다루고자 합니다.... 정우영, 조한용 | 2023년 10월 19일
# Machine_Learning # Engineering 최대 24배 빠른 vLLM의 비밀 파헤치기 LLM 시대로 들어오면서 서빙을 위한 다양한 최적화 방식들이 많이 개발되고 연구되고 있죠. 오늘은 허깅페이스 대비 최대 24배까지 성능을 높일 수 있었던 vLLM에 대해 분석해 보고자 해요. 지금 분석하고자 하는 내용은... 정채홍 | 2023년 09월 27일
# Machine_Learning 멀티턴 이미지 대화: 조규성 vs 안정환, 루다야 누가 더 잘생겼어? 작년 10월 이루다 2.0이 정식 출시되면서 사진을 이해하고 답변할 수 있는 포토챗 베타 기능이 탑재되었습니다. A/B 테스트를 통해 기존 모델 대비 1인당 사진 전송량이 63% 이상 증가하는 수치를 보일 정도로... 장성보, 이재훈, 최동현 | 2023년 09월 13일
# Product/Biz 감성 AI 시장, 얼마나 커질까? 10억을 기부하면 빌게이츠와 만찬을 함께 할 수 있는 캠페인을 한번쯤은 들어보셨을 텐데요. 박채원 | 2023년 09월 06일
# Machine_Learning 더 나은 생성모델을 위해 RLHF로 피드백 학습시키기 보다 좋은 서비스를 위한 PLM Fine-tuning 강경필, 정채홍, 최기원 | 2023년 08월 30일
# Product/Biz 사람처럼 말 잘하는 AI 캐릭터 쉽고 빠르게 만들기 스캐터랩은 이루다, 강다온, 허세중과 같은 AI 챗봇이 많은 사람에게 좋은 관계 가치(Relationship value)를 주는 세상을 꿈꿔왔습니다. 현재 스캐터랩은 이를 확장하고자 캐릭터 기획, 기술 기획 등 좋은 AI 캐릭터를 만들기 위한... 이정복 | 2023년 08월 23일
# Machine_Learning # Engineering 새로운 루다를 지탱하는 모델 서빙 아키텍처 — 3편: 안정적인 LLM 서비스를 위한 서빙 최적화 기법 많은 기업들이 생성AI 시장에 뛰어들기 위해서 각자의 LLM 을 만들기 위해 온 열정을 쏟아붓고 있습니다. 특히 ChatGPT 출시 이후 다양한 종류와 크기의 LLM 들이 만들어 지고 있는데요. 하지만 모든 모델들이... 김준성, 김성환 | 2023년 08월 16일
# Machine_Learning ACL 2023 Review 자연어 처리 분야의 최고 국제 컨퍼런스인 ACL 2023을 맞아 리서치팀 워크샵을 진행했습니다. ML 리서치 유닛, 데이터 기획 유닛의 팀원들이 회사를 떠나 다같이 모여서 3박4일 동안 온라인으로 ACL 논문 발표를 듣고... 이주홍 | 2023년 08월 16일
