티스토리

ymkwon

검색하기

블로그 홈

ymkwon

seemee9.tistory.com/m

공부 기록, 논문 리뷰 등에 대한 정리

구독자: 0

방명록 방문하기

주요 글 목록

[Computer Vision] Metric Learning 본 포스팅은 서울대학교 이준석 교수님의 '시각적 이해를 위한 머신러닝 (2023 spring)' 강의를 바탕으로 작성되었습니다.모든 내용의 출처는 해당 강의에 있습니다.Courses: http://viplab.snu.ac.kr/viplab/courses/mlvu_2023_1/index.htmlYoutube: https://www.youtube.com/watch?v=cv_iOJ_OaUM&t=1723s Metric LearningTask객체(이미지, 비디오 등)들 간의 distance function을 학습하는 task두 개 혹은 그 이상의 샘플을 입력 받아 스코어를 출력스코어는 샘플들 간의 거리를 의미여기서 거리는 데이터에 따라 그 의미가 달라짐모델은 데이터로부터 관계를 학습 Data객체들 간의 유사성을 .. 공감수 1 댓글수 0 2024. 10. 1.
[Computer Vision] Segmentation 본 포스팅은 서울대학교 이준석 교수님의 '시각적 이해를 위한 머신러닝 (2023 spring)' 강의를 바탕으로 작성되었습니다.모든 내용의 출처는 해당 강의에 있습니다.Courses: http://viplab.snu.ac.kr/viplab/courses/mlvu_2023_1/index.htmlYoutube: https://www.youtube.com/watch?v=oqBr_4du-94 Semantic Segmentation기존 분류 문제가 이미지 전체를 대상으로 했다면 semantic segmentation은 픽셀 단위로 분류 수행First Ideas for Semantic Segmentation단순히 픽셀 하나만 보고 이를 분류하는 것은 어려움그림과 같이 주변 픽셀들도 동시에 보고 타겟 픽셀에 대한 분.. 공감수 4 댓글수 2 2024. 9. 30.
[Computer Vision] Object Detection 본 포스팅은 서울대학교 이준석 교수님의 '시각적 이해를 위한 머신러닝 (2023 spring)' 강의를 바탕으로 작성되었습니다.모든 내용의 출처는 해당 강의에 있습니다.Courses: http://viplab.snu.ac.kr/viplab/courses/mlvu_2023_1/index.htmlYoutube: https://www.youtube.com/watch?v=W6EVlzVP0TM Object DetectionBasics기존 분류 문제는 단순히 이미지를 특정 클래스로 분류하는 것객체 검출은 이미지 내의 객체의 위치와 그 객체가 무엇인지를 추정해야 함Class (What)Bounding box (Where)ConfidenceDataset 데이터셋은 기본적으로 객체의 클래스를 포함하고 객체의 위치는 두 .. 공감수 2 댓글수 1 2024. 9. 29.
[Computer Vision] Transformers II 본 포스팅은 서울대학교 이준석 교수님의 '시각적 이해를 위한 머신러닝 (2023 spring)' 강의를 바탕으로 작성되었습니다.모든 내용의 출처는 해당 강의에 있습니다.Courses: http://viplab.snu.ac.kr/viplab/courses/mlvu_2023_1/index.htmlYoutube: https://www.youtube.com/watch?v=LBqfClEnV2U&list=PL0E_1UqNACXDTwuxUzCl5AeEjXBfWxCwc&index=15 Transformer-based Image ModelsViT: Vision TransformerMain Idea트랜스포머 모델을 이미지에도 그대로 적용Patch embedding이미지를 16x16의 패치들로 분할 (단어의 토큰과 동일한 .. 공감수 7 댓글수 4 2024. 9. 27.
[Computer Vision] Transformers I 본 포스팅은 서울대학교 이준석 교수님의 '시각적 이해를 위한 머신러닝 (2023 spring)' 강의를 바탕으로 작성되었습니다.모든 내용의 출처는 해당 강의에 있습니다.Courses: http://viplab.snu.ac.kr/viplab/courses/mlvu_2023_1/index.htmlYoutube: https://www.youtube.com/watch?v=NIFnKN2tWsE&list=PL0E_1UqNACXDTwuxUzCl5AeEjXBfWxCwc&index=14 Word Embedding 이미지 처럼 단어도 벡터로 표현될 수 있음d 차원의 공간 상에서 벡터로 표현이에 따라 문장도 벡터로 표현 가능Word2vec대규모 코퍼스를 이용하여주변 단어들로부터 현재 단어를 예측 (Common Bag of .. 공감수 0 댓글수 0 2024. 9. 25.
[Computer Vision] RNN-based Video Models 본 포스팅은 서울대학교 이준석 교수님의 '시각적 이해를 위한 머신러닝 (2023 spring)' 강의를 바탕으로 작성되었습니다.모든 내용의 출처는 해당 강의에 있습니다.Courses: http://viplab.snu.ac.kr/viplab/courses/mlvu_2023_1/index.htmlYoutube: https://www.youtube.com/watch?v=-iwEKM56BpU&list=PL0E_1UqNACXDTwuxUzCl5AeEjXBfWxCwc&index=13 RNN-based Spatio-Temporal ModelingLRCN비디오는 프레임의 시퀀스이므로, CNN을 통해 일련의 시퀀스로부터 특징을 추출하고 이를 RNN에 넣는 것이 가장 기본적인 RNN-based Video ModelingLR.. 공감수 3 댓글수 3 2024. 9. 24.
[CS231n] Lecture 10 | Recurrent Neural Networks 더보기CS231n 강의 홈페이지: https://cs231n.stanford.edu/CS231n Spring 2017 유튜브 강의 영상: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk강의 슬라이드 & 한글 자막: https://github.com/visionNoob/CS231N_17_KOR_SUB Overview of Recurrent Neural NetworksVanilla Neural Networks지금까지 살펴본 아키텍처들은 고정된 길이의 이미지 또는 벡터를 입력으로 받아 하나의 출력을 내보냄이는 다양한 길이의 입력 및 출력을 다루기 어렵다는 한계가 존재RNN을 사용한 다양한 입출력 모델RNN은 .. 공감수 2 댓글수 2 2024. 9. 5.
[CS231n] Lecture 9 | CNN Architectures 더보기CS231n 강의 홈페이지: https://cs231n.stanford.edu/CS231n Spring 2017 유튜브 강의 영상: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk강의 슬라이드 & 한글 자막: https://github.com/visionNoob/CS231N_17_KOR_SUB Recap of LeNet산업에 최초로 적용된 CNNstride가 1인 5x5 필터몇 개의 Conv layer와 pooling layer를 거치고 끝단에는 FC layerAlexNet Idea총 5개의 Conv layer와 2개의 FC layer로 구성특정 Conv layer 뒤에 max pooling lay.. 공감수 1 댓글수 0 2024. 8. 26.
[Paper Review] Robust Sound-Guided Image Manipulation 더보기arXiv: https://arxiv.org/abs/2208.14114Demo: https://kuai-lab.github.io/robust-demo/ Abstract기존의 StyleCLIP을 활용한 텍스트 입력 기반의 이미지 조작은 풍부한 의미론적 단서를 제공하는 데에 한계를 가지고 있다는 것을 관찰했다. 이 문제를 해결하기 위해 더 동적이고 풍부한 의미론적 단서를 제공할 수 있는 사운드라는 추가적인 모달리티인 소리를 활용하는 것을 제안하였다. 본 논문에서는 먼저 이미지-텍스트 공동 임베딩 공간을 사운드까지 확장하고, 사운드 입력(e.g. 빗소리)에 따라 주어진 이미지를 조작하기 위해 직접적인 잠재 최적화 방법을 적용하는 새로운 접근 방식을 제안하였다. 사운드 기반이 이미지 조작 접근 방식이 기존.. 공감수 2 댓글수 0 2024. 8. 20.
[CS231n] Lecture 8 | Deep Learning Software 더보기CS231n 강의 홈페이지: https://cs231n.stanford.edu/CS231n Spring 2017 유튜브 강의 영상: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk강의 슬라이드 & 한글 자막: https://github.com/visionNoob/CS231N_17_KOR_SUB PyTorchThree Levels of AbstractionTensor다차원 배열로 Numpy의 배열과 유사GPU에서 연산 수행 가능Variable그래프의 노드로 볼 수 있으며 autograd을 통해 그래디언트를 계산하는 데 사용됨이 기능을 통해 역전파를 쉽게 구현 가능Module신경망을 구성하는 블록신경망.. 공감수 1 댓글수 0 2024. 8. 19.
[CS231n] Lecture 7 | Training Neural Networks II 더보기CS231n 강의 홈페이지: https://cs231n.stanford.edu/CS231n Spring 2017 유튜브 강의 영상: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk강의 슬라이드 & 한글 자막: https://github.com/visionNoob/CS231N_17_KOR_SUB RecapActivation FunctionsWeight Initilization가중치가 너무 작으면 activation 0, 너무 크면 saturationData Preprocessing좌측 그림과 같이 zero-mean이 아닌 경우라면 결정 경계(가중치)가 조금만 변하더라도 loss는 이에 민감하게 반응B.. 공감수 0 댓글수 0 2024. 8. 13.
[CS231n] Lecture 6 | Training Neural Networks I 더보기CS231n 강의 홈페이지: https://cs231n.stanford.edu/CS231n Spring 2017 유튜브 강의 영상: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk강의 슬라이드 & 한글 자막: https://github.com/visionNoob/CS231N_17_KOR_SUB Activation FunctionsSigmoid\( \sigma (x)= \frac{1}{1+e^{-x}} \)neuron의 'firing rate'를 잘 반영단점양극단에 가까워질 수록 gradient의 값이 0 (saturated)not zero-centered시그모이드의 출력값은 전부 양수(0~1)로 z.. 공감수 0 댓글수 0 2024. 8. 8.
[Paper Review] Going Deeper with Convolution - GoogLeNet 더보기Paper Link: https://arxiv.org/abs/1409.4842 1. IntroductionCNN 급격한 발전 → 네트워크 구조의 중요성모바일 및 임베디드 컴퓨팅의 지속적인 성장 → 전력 및 메모리 사용의 효율성이 중요해짐인셉션 모듈 적용2. Related WorksLeNet-5를 시작으로 CNN은 일반적으로 여러 개의 컨볼루션 레이어 이후에 FC 레이어로 이어지는 표준 구조를 가지게 됨이러한 구조를 사용한 모델들이 이미지 분류 분야에서 좋은 성과를 내었음Network-in-Network proposed by Lin et al - 1×1 convolutional layerscomputational bottleneck을 제거하기 위한 차원 축소 모듈성능 저하 없이 깊이를 늘릴 수 있을 .. 공감수 0 댓글수 0 2024. 8. 8.
[Paper Review] Deep Residual Learning for Image Recognition - ResNet 더보기Paper Link: https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/He_Deep_Residual_Learning_CVPR_2016_paper.pdf1. IntroductionQuestion네트워크의 층을 깊게 쌓는 것이 매우 중요하다는 것이 당시의 연구를 통해 밝혀짐그러나 네트워크의 깊이가 깊어질 수록 정확도는 포화되고 점점 떨어지는 degradation problem이 발생함. 그리고 이는 오버피팅에 의한 것이 아님저자들은 이러한 문제점을 deep residual learning framework를 적용함으로써 해결 Residual LearningShortcut 연결은 한 개 이상의 레이어를 건너뛰는 연결을 의미함이는 단순히.. 공감수 0 댓글수 0 2024. 8. 3.
[Paper Review] Very Deep Convolutional Networks for Large-Scale Image Recognition - VGGNet 더보기Paper Link: https://arxiv.org/abs/1409.1556 1. IntroductionImageNet과 같은 대규모 공개 데이터셋의 등장당시 대규모 이미지 및 비디오 인식에서 큰 성공을 거두고 있던 컨볼루션 신경망(ConvNets)GPU와 같은 고성능 컴퓨팅 시스템의 발전ConvNet 아키텍처 설계의 또 다른 중요한 측면인 '깊이'를 제안모든 레이어에서 매우 작은 (3×3) 컨볼루션 필터를 사용하여 레이어를 더 깊게 쌓음으로써 네트워크의 깊이를 점진적으로 증가시킴2. Related WorksAlexNetILSVRC 2012 winnerDeeper architectureReLU, DropoutData augmentationMultiple GPUsLocal Response Norma.. 공감수 0 댓글수 0 2024. 8. 1.
[기계학습] Iterative Optimization & Gradient Descent Vector CalculusChain Rule합성함수의 도함수를 구하는 공식Gradient정의: 다변수 스칼라 함수의 도함수해석: 스칼라장의 최대 증가율의 방향, 편미분들의 집합 ▶ 벡터Jacobian정의: 다변수 벡터 함수의 도함수해석: 그라디언트의 집합 ▶ 행렬 Iterative Optimization (반복 최적화)ML as an Iterative Optimization 기계학습에서 해야 할 일을 식으로 정의하면, 주어진 비용함수 \( J(\underline{θ}) \)에 대해 \( J(\underline{θ}) \)를 최소로 하는 최적해 \( \hat{\underline{θ}} \)을 찾는 것즉 기계학습은 조건을 충족하는 최적의 파라미터 \( \hat{\underline{θ}} = argmin_.. 공감수 0 댓글수 0 2024. 7. 30.
[기계학습] Intro 기계학습이란?컴퓨터가 데이터로부터 학습하여 원하는 결과를 얻을 수 있도록 하는 알고리즘이나 수학적 모델을 개발하는 인공지능의 한 분야예를 들어 손글씨 인식을 학습시키고자 하는 경우Task T: 손글씨 인식Performance measure P: 오차율 혹은 정확도Training experience E: 손글씨 데이터P를 통해 T의 성능을 평가하고, 이를 E를 통해 원하는 수준까지 향상시키는 것이 목적아래와 같은 블랙박스를 설계하는 과정이라고 볼 수 있음 기계학습의 종류지도 학습 (Supervised Learning)입력(input)과 출력(output)이 모두 주어진 문제. output을 target 혹은 label이라고도 함회귀 (Regression)연속된 형태로 분포하는 출력 (continuous o.. 공감수 0 댓글수 0 2024. 7. 30.
[CS231n] Lecture 5 | Convolutional Neural Networks 더보기CS231n 강의 홈페이지: https://cs231n.stanford.edu/CS231n Spring 2017 유튜브 강의 영상: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk강의 슬라이드 & 한글 자막: https://github.com/visionNoob/CS231N_17_KOR_SUB Recap of Neural Networks신경망의 구조선형 함수(행렬곱)와 비선형 함수(활성 함수)를 쌓아 신경망을 구성이 구조는 신경망이 복잡한 패턴을 학습하고 인식할 수 있게 함문제 해결 능력신경망은 다양한 입력 데이터(자동차 이미지)를 분석하고 분류하는 데 유용중간 단계의 템플릿을 학습함으로써, 신경망.. 공감수 0 댓글수 0 2024. 7. 30.
[CS231n] Lecture 4 | Introduction to Neural Networks 더보기CS231n 강의 홈페이지: https://cs231n.stanford.edu/CS231n Spring 2017 유튜브 강의 영상: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk강의 슬라이드 & 한글 자막: https://github.com/visionNoob/CS231N_17_KOR_SUBRecapLoss Functions함수 f는 입력 x에 따른 클래스들에 대한 스코어 벡터 Y를 출력이에 대한 예측이 잘 된 혹은 잘 되지 않은 정도를 손실 함수를 통해 계산손실 함수는 data loss term과 regularization term으로 구성정규화 항은 모델의 복잡성을 조절함Optimization.. 공감수 0 댓글수 0 2024. 7. 29.
[CS231n] Lecture 3 | Loss Functions and Optimization 더보기CS231n 강의 홈페이지: https://cs231n.stanford.edu/CS231n Spring 2017 유튜브 강의 영상: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk강의 슬라이드 & 한글 자막: https://github.com/visionNoob/CS231N_17_KOR_SUBIntroduction to Loss FunctionsRecap of Linear Classifier임의의 W 행렬을 사용하여 각 이미지에 대한 클래스 스코어를 계산일부 스코어는 좋고 일부는 나쁨. 예를 들어, 고양이 이미지가 개구리보다 낮은 스코어를 받음좋은 분류기란 올바른 클래스가 가장 높은 스코어를 받는 .. 공감수 0 댓글수 0 2024. 7. 26.
[CS231n] Lecture 2 | Image Classification 더보기CS231n 강의 홈페이지: https://cs231n.stanford.edu/CS231n Spring 2017 유튜브 강의 영상: https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk강의 슬라이드 & 한글 자막: https://github.com/visionNoob/CS231N_17_KOR_SUBIntroduction to Image Classification이미지 분류는 컴퓨터 비전의 핵심 작업 중 하나로, 사전 정의된 카테고리 중 하나의 라벨을 이미지에 올바르게 할당하는 것예를 들어, 입력 이미지로 귀여운 고양이 사진이 주어졌을 때, 시스템은 이 이미지가 고양이, 개, 트럭, 비행기 등의 카테고리 .. 공감수 0 댓글수 0 2024. 7. 24.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.