본문 바로가기

분류 전체보기81

이공계 논문 글쓰기 이 포스트에서는 논문의 글쓰기, 특히 이공계쪽 논문 글쓰기에 대해서 간략하게 설명한다. 인문계, 사회과학, 예술쪽 논문은 잘 모르기 때문에 그 분야에는 해당되지 않을 수 있다. 각종 conference나 journal마다 구체적인 내용은 다르지만 보통 논문의 항목은 다음과 같다. Title, Abstract, Introduction, Related Works, Methods, Experiments, Conclusion, References, Appndeix 여기서부터는 각 항목에 대해 간략하게 설명하겠다. Title 논문의 핵심 내용을 한 줄로 요약한다. Abstract 보다도 축약된 형태로 논문의 정체성이다. Abstract 풀고자 하는 문제 기존 연구와 문제가 나온 배경 기존의 한계점 본 논문에서 제.. 2024. 2. 27.
Introduction to Generative Models 이 포스트에서는 여러가지 생성모델의 발전 흐름과 간략한 분류를 정리하고자 한다. 우선 생성 모델, Generative Models의 정의를 알아야 한다. 생성 모델의 정의 영문 위키의 generative model 문서를 보면 다음과 같이 정의한다. a generative model is a model of the conditional probability of the observable X, given a target y a discriminative model is a model of the conditional probability of the target Y, given an observation x 또는 A generative model is a statistical model of the jo.. 2024. 2. 26.
LLM Models and Applications 여기서는 다양한 LLM 모델들의 흐름을 보고자 한다. 2017년 구글의 Transformer (Attention is All You Need)이후 많은 모델들이 등장했다. 구글, 구글 딥마인드, OpenAI, 허깅페이스, 메타(페이스북), 아마존, 마이크로소프트, 화웨이, 바이두 등 다양한 빅테크 기업들의 LLM 개발의 큰 흐름을 파악하기 좋다. 보다 자세한 내용은 아래 레퍼런스에서 확인 할 수 있다. 위 그림은 LLM을 기반으로 한 실제 산업에서의 응용이나 사업 분야를 나타낸다. 연구 이외의 취업이나 사업 등을 생각하는 사람들에게 중요해 보인다. References: https://cobusgreyling.medium.com/the-foundation-large-language-model-llm-too.. 2024. 2. 23.
알아두면 좋은 주요 딥러닝 모델들 딥러닝 모델 자체는 굉장히 오래되었다고 하지만 여기서는 자세한 역사보다는 기념비적인 논문이자 CNN 구조를 가진 LeNet5과 ImageNet Large Scale Visual Recognition Challenge (ILSVRC)의 2012년 우승 모델인 AlexNet으로 시작해서 2023년까지의 주목할만한 모델들을 정리해보았다. LLM 모델들은 별도로 다룰 필요가 있다고 생각하여 제외하고 가장 유명한 모델인 ChatGPT의 시작인 GPT만 소개한다. Out-of-Distribution (OOD)과 Generation (Generative Adversarial Network, GAN), Document Image Classification 등 개인적으로 관심이 있거나 다양한 강의를 통해 수집한 자료이므.. 2024. 2. 22.
Recommender Systems Papers 추천 시스템 관련된 논문들은 정말 많은데 이 분야를 처음 접한 사람이라면 어떤걸 먼저 봐야할지 감이 잡히지 않는다. 또한 추천 시스템 아래에 수많은 하위 영역이 있는데 그 분야에서 어떤게 좋은 논문인지 모를 때가 있다. 이럴 때는 이 링크를 보면 많은 도움이 된다. 튜토리얼과 서베이 논문 부터 시작해서 소셜, 딥러닝, 콜드 스타트, POI, CTR, KG 등 다양한 세부 주제를 다룰뿐만 아니라 요즘 핫한 LLM을 이용한 논문과 Pinterest의 PinSAGE 등과 같은 기업체의 논문까지 소개하고 있다. 세부 분야에 대한 설명은 아래와 같다. 00-Tutorials: contain so many tutorials on recommendation systems given by prominent resear.. 2024. 2. 22.
AI/ML/DL 주요 컨퍼런스 AI 분야는 저널 보다는 컨퍼런스 위주로 논문이 작성되고 읽히고 있다. 전반적인 AI와 CV, NLP, 데이터 마이닝, 추천 시스템쪽 컨퍼런스를 정리하고자 한다. Graph 관련이나 추천 시스템 관련 논문들은 AI나 데이터 마이닝 분야에서 많이 등장한다. 또한 의류 추천 등과 같이 이미지가 주 학습 데이터로 쓰이는 경우 CVPR 등에서 찾아볼 수도 있다. AI AAAI (Association for the Advancement of Artificial Intelligence) NIPS = NeuraIPS (Neural Information Processing Systems) IJCAI (International Joint Conference on Artificial Intelligence) ICLR (I.. 2024. 2. 21.