본문 바로가기

분류 전체보기55

LLM Models and Applications 여기서는 다양한 LLM 모델들의 흐름을 보고자 한다. 2017년 구글의 Transformer (Attention is All You Need)이후 많은 모델들이 등장했다. 구글, 구글 딥마인드, OpenAI, 허깅페이스, 메타(페이스북), 아마존, 마이크로소프트, 화웨이, 바이두 등 다양한 빅테크 기업들의 LLM 개발의 큰 흐름을 파악하기 좋다. 보다 자세한 내용은 아래 레퍼런스에서 확인 할 수 있다. 위 그림은 LLM을 기반으로 한 실제 산업에서의 응용이나 사업 분야를 나타낸다. 연구 이외의 취업이나 사업 등을 생각하는 사람들에게 중요해 보인다. References: https://cobusgreyling.medium.com/the-foundation-large-language-model-llm-too.. 2024. 2. 23.
알아두면 좋은 주요 딥러닝 모델들 딥러닝 모델 자체는 굉장히 오래되었다고 하지만 여기서는 자세한 역사보다는 기념비적인 논문이자 CNN 구조를 가진 LeNet5과 ImageNet Large Scale Visual Recognition Challenge (ILSVRC)의 2012년 우승 모델인 AlexNet으로 시작해서 2023년까지의 주목할만한 모델들을 정리해보았다. LLM 모델들은 별도로 다룰 필요가 있다고 생각하여 제외하고 가장 유명한 모델인 ChatGPT의 시작인 GPT만 소개한다. Out-of-Distribution (OOD)과 Generation (Generative Adversarial Network, GAN), Document Image Classification 등 개인적으로 관심이 있거나 다양한 강의를 통해 수집한 자료이므.. 2024. 2. 22.
Recommender Systems Papers 추천 시스템 관련된 논문들은 정말 많은데 이 분야를 처음 접한 사람이라면 어떤걸 먼저 봐야할지 감이 잡히지 않는다. 또한 추천 시스템 아래에 수많은 하위 영역이 있는데 그 분야에서 어떤게 좋은 논문인지 모를 때가 있다. 이럴 때는 이 링크를 보면 많은 도움이 된다. 튜토리얼과 서베이 논문 부터 시작해서 소셜, 딥러닝, 콜드 스타트, POI, CTR, KG 등 다양한 세부 주제를 다룰뿐만 아니라 요즘 핫한 LLM을 이용한 논문과 Pinterest의 PinSAGE 등과 같은 기업체의 논문까지 소개하고 있다. 세부 분야에 대한 설명은 아래와 같다. 00-Tutorials: contain so many tutorials on recommendation systems given by prominent resear.. 2024. 2. 22.
AI/ML/DL 주요 컨퍼런스 AI 분야는 저널 보다는 컨퍼런스 위주로 논문이 작성되고 읽히고 있다. 전반적인 AI와 CV, NLP, 데이터 마이닝, 추천 시스템쪽 컨퍼런스를 정리하고자 한다. Graph 관련이나 추천 시스템 관련 논문들은 AI나 데이터 마이닝 분야에서 많이 등장한다. 또한 의류 추천 등과 같이 이미지가 주 학습 데이터로 쓰이는 경우 CVPR 등에서 찾아볼 수도 있다. AI AAAI (Association for the Advancement of Artificial Intelligence) NIPS = NeuraIPS (Neural Information Processing Systems) IJCAI (International Joint Conference on Artificial Intelligence) ICLR (I.. 2024. 2. 21.
Computer Vision 소개 Computer Vision의 개념 컴퓨터 비전이란 Agent 혹은 컴퓨터가 사람처럼 이미지를 인식하도록 만든다. 사진, 그림, 동영상 등이 인지 대상이다. 반면에 Computer Graphics는 컴퓨터를 사용해 이미지를 그려내는 과정이다. 게임에서 보이는 그래픽이나 영화에서의 CG 등이 이에 속한다. Types of Computer Vision Low-level일수록 pixel 단위로 이미지를 처리하고, High-level로 갈수록 이미지 전반을 하나의 entity로 묶어서 처리한다. Low-level Image Processing: Resize, Color Jitter, Blur, Rotate 등 Feature Extraction: Edge Detection, Segmentation by Color.. 2024. 2. 21.
AI & Machine Learning 개요 AI (Artificial Intelligence) Agent는 사람처럼 사고한다. Environment (외부환경)을 지각하고 이 정보를 활용하여 판단한 후 action을 취한다. 약 인공지능: 특정 문제, task를 잘 푸는 인공지능. 강 인공지능: 사람처럼 생각하는, 복합적인 문제를 처리할 수 있는 인공지능. CS188에서는 4가지 토픽을 구분했다. Search & Planning와 Reinforcement Learning에서는 Intelligence form Computation이라고 했는데, 이미지나 문서 등을 직접 학습하는게 아니라 주어진 상황에서 최적의 방법을 찾아내는 방법을 뜻한다. Probability & Inference와 Supervised Learning에서는 Intelligence.. 2024. 2. 21.

티스토리툴바