# Machine_Learning GPT-3의 다섯 가지 한계 GPT-3가 대단한 모델이기는 하지만 완벽하지는 않습니다. 이번 글에서는 GPT-3의 5가지 한계에 대해 알아봅니다. 김종윤 | 2020년 08월 20일
# Machine_Learning GPT-3, 인류 역사상 가장 뛰어난 언어 AI 뛰어난 언어 능력으로 인터넷에서 화제가 되고 있는 언어 생성 모델 GPT-3. 이 모델이 어떤 능력을 가지고 있고, 어떻게 이런 능력을 갖게 되었는지 알아봅니다. 김종윤 | 2020년 08월 05일
# Machine_Learning 핑퐁팀 ML 세미나, 그 다섯 번째 안녕하십니까? 여러가지로 혼란스러웠던 2020년도 반 넘게 지나가고 있습니다. 저희 사이언티스트들과 엔지니어들의 시즌 5 세미나 발표자료를 갈무리하여 올립니다. 구상준, 김준성, 박채훈, 백영민, 서상우, 이주홍, 장성보, 정다운, 정욱재, 홍승환 | 2020년 07월 28일
# Machine_Learning 핑퐁팀과 함께하는 ACL 2020 리뷰 Annual Meeting of the Association for Computational Linguistics (ACL)는 자연어 처리(NLP) 분야를 주도하는 주요 국제 컨퍼런스 중 하나로, 매년 많은 NLP 연구자들이 주목하는 학회입니다. 이번 ACL 2020은 COVID-19로 인해서 여타... 김준성, 구상준, 백영민, 박채훈, 이주홍, 서상우, 장성보, 정다운 | 2020년 07월 22일
# Machine_Learning 꼼꼼하고 이해하기 쉬운 ELECTRA 논문 리뷰 이번 ICLR 2020에서 구글 리서치 팀은 새로운 pre-training 기법을 적용한 language model, ELECTRA (Efficiently Learning an Encoder that Classifies Token Replacements Accurately)를 발표하였습니다. 기존 BERT를 비롯한 많은 language model들은 입력을... 이주홍 | 2020년 05월 08일
# Machine_Learning 꼼꼼하고 이해하기 쉬운 Reformer 리뷰 이번 ICLR 2020에서는 여러 특기할 만한 구조들이 제안되었습니다. 그 중에서 저희가 인상깊게 본 구조는 구글에서 제안한 Reformer입니다. 기존의 Transformer 구조는 데이터 토큰이 조금만 많아져도 모델 크기가 엄청나게 커지는 문제가 있었습니다.... 구상준 | 2020년 04월 29일
# Machine_Learning # Engineering TensorFlow TPU 학습 101 핑퐁팀은 PyTorch뿐만 아니라 TensorFlow 2.0도 활발하게 사용하고 있습니다. 최근 팀 내에서 TPU를 활용하여 학습하는 프로젝트를 진행하고 있는데, 이 글에서는 TF 2.0을 기반으로 짜여진 모델을 Google Colab과 Google Cloud Platform (GCP)을... 홍승환 | 2020년 04월 17일
# Machine_Learning 핑퐁팀 ML 세미나, 그 네번째 새해가 밝은 지 얼마 되지도 않았는데 벌써 2020년도 1/6이나 지나갔습니다. 그 짧은 시간에도 수많은 좋은 논문들이 발표되었습니다. 우리의 불쌍한 핑퐁팀 ML 사이언티스트들은 이에 뒤처지지 않게 늘 공부하고 또 공부합니다. 우리의... 구상준, 백영민, 김준성, 이주홍, 장성보, 정다운 | 2020년 03월 16일
# Machine_Learning # Engineering 딥러닝 모델 서비스 A-Z 1편 - 연산 최적화 및 모델 경량화 대화를 더 잘하기 위해 딥러닝 모델들은 점점 더 크고 무거워지고 있습니다. 그에 비례해서 빠르고 효율적으로 서비스하기 위한 난이도 또한 나날이 높아지고 있습니다. 서진형, 정욱재, 황성구 | 2020년 03월 11일
# Product/Biz 친근하고 귀여운 챗봇 디자인 2편 - 대화 디자인 편 지난 글에서는 어떤 점을 고려해서 귀여운 루나의 페르소나를 디자인했는지 소개해드렸어요. 이번 블로그 글에서는 루나 사례를 통해 사람들과 친근한 관계를 맺을 수 있는 대화를 어떻게 디자인하면 좋을지 얘기해보려고 해요. 사람들도 처음... 최예지 | 2020년 02월 25일
