노성민의 개발 노트

KCF(Kernelized Correlation Filter)는 객체 추적을 위한 컴퓨터 비전 알고리즘 중 하나입니다. KCF 알고리즘은 특징 기반 객체 추적 방법과 달리 템플릿 매칭 방법을 사용하며, 다른 템플릿 매칭 알고리즘과 달리, FFT(Fast Fourier Transform)와 같은 빠른 알고리즘을 사용하여 연산 속도를 높인 것이 특징입니다. KCF 알고리즘은 주어진 객체의 초기 위치를 입력으로 받아, 객체가 이동하는 동안 해당 객체의 위치를 추적하는 기능을 수행합니다. 이를 위해, KCF 알고리즘은 객체를 나타내는 템플릿을 생성하고, 이를 현재 프레임에서 찾아내는 방식으로 동작합니다. 이때, KCF 알고리즘은 템플릿과 현재 프레임의 영상 데이터를 상호 상관 관계를 이용하여 비교합니다. KCF..

딥러닝 기초 이론/밑바닥부터 시작하는 딥러닝 이론 2023. 2. 23. 09:43

YOLOv3는 You Only Look Once (YOLO)의 세 번째 버전으로, 객체 검출에 사용되는 딥러닝 모델입니다. YOLOv3는 다양한 크기와 종류의 객체를 빠르고 정확하게 검출할 수 있으며, 현재까지 최고 성능을 보이는 객체 검출 모델 중 하나입니다. YOLOv3의 아키텍처는 크게 세 부분으로 나눌 수 있습니다. Backbone Network :YOLOv3는 Darknet-53이라는 이름의 Backbone Network를 사용합니다. 이는 53개의 Convolutional Layer로 이루어져 있으며, 각각의 레이어에서 이미지를 점점 더 추상화된 Feature Map으로 변환합니다. 이러한 Backbone Network를 사용함으로써 YOLOv3는 다양한 크기와 종류의 객체를 검출할 수 있습니..

딥러닝 기초 이론/밑바닥부터 시작하는 딥러닝 이론 2023. 2. 23. 09:31

이미지 내에 존재하는 객체가 있을 가능성이 있는 위치를 찾기 위해서는 Object Proposal 알고리즘을 사용합니다. Object Proposal 알고리즘은 이미지 내에 다수의 영역을 제안합니다. 이들 영역은 이미지 내에 객체가 존재할 가능성이 높은 위치로 제안됩니다. Object Proposal 알고리즘은 크게 세 가지 유형으로 구분됩니다. Selective Search : Selective Search 알고리즘은 이미지 내에 존재하는 개별적인 픽셀들을 기반으로, 서로 다른 크기와 색상의 영역을 생성합니다. 이들 영역은 각각 객체가 존재할 가능성이 높은 영역으로 제안됩니다. Edge Boxes : Edge Boxes 알고리즘은 이미지 내에서 경계선이나 엣지(Edge)를 찾아내어, 객체가 위치할 가능..

딥러닝 기초 이론/밑바닥부터 시작하는 딥러닝 이론 2023. 2. 23. 09:24

Pooling 이란. CNN에서 pooling이란 간단히 말하자면 특징을 뽑아내는 과정이라고 할 수 있다. 먼저 CNN의 pooling 이전의 진행 과정을 간단히 살펴보자. CNN이라는 게 결국 이미지 속에서 여러가지 특징들을 low level(여러가지 단순한 모양의 선)부터 high level(선이 모여진 어떤 형태의 모양)까지 찾아내서 이미지를 추론하는 딥러닝과정이다. Pooling이전의 단계를 간단하게 설명하자면, 첫번째, convolution layer에서 filter(learnable parameter)을 이용해 이미지 feature map을 계산하는 과정이 있다. 두번째, 그 계산 결과를 activation function을 이용해 nonlinearity 를 부여해주는 과정이 있다. convo..

딥러닝 기초 이론/밑바닥부터 시작하는 딥러닝 이론 2023. 2. 5. 15:46

1. Tensor 텐서란 매우 수학적인 개념으로 데이터의 배열이라고 볼 수 있습니다. 텐서의 Rank는 간단히 말해서 몇 차원 배열인가를 의미합니다. RANK TYPE EXAMPLE 0 scalar [1] 1 vector [1,1] 2 matrix [[1,1],[1,1]] 3 3-tensor [[[1,1],[1,1]],[[1,1],[1,1]],[[1,2],[2,1]]] n n-tensor

딥러닝 기초 이론/밑바닥부터 시작하는 딥러닝 이론 2023. 2. 1. 21:48

1. 하이퍼파라미터 튜닝기법 종류 설명 적용 시 고려사항 학습률 (Learning Rate) gradient의 방향으로 얼마나 빠르게 이동할 것인지 결정하는 변수 – 너무 작으면 학습의 속도가 늦고, 너무 크면 학습 불가 손실 함수 (Cost Function) 입력에 따른 기대 값과 실제 값의 차이를 계산하는 함수 – 평균 제곱 오차 – 교차 엔트로피 오차 정규화 파라미터 (Regularization parameter) L1 또는 L2 정규화 방법 사용 – 사용하는 일반화 변수도 하이퍼 파라미터로 분류 미니 배치 크기 (Mini-batch Size) 배치셋 수행을 위해 전체 학습 데이터를 등분하는(나누는) 크기 – 가용 메모리 크기와 epoch 수행 성능을 고려 – 최소 사이즈 : 32 / * 참조논문(..

딥러닝 기초 이론/밑바닥부터 시작하는 딥러닝 이론 2023. 1. 31. 22:03

딥러닝에서의 과적합은 신경망 모델이 훈련 데이터를 너무 잘 학습하여 데이터의 노이즈 또는 무작위 파장에 맞춰 맞추기 시작하는 현상을 말합니다. 이는 새로운 데이터에서의 성능이 떨어지고, 모델이 일반적이지 않아지는 결과를 가져옵니다. 복잡한 모형일수록, 데이터가 적을수록 과적합이 일어나가 쉽다. 데이터가 많으면 복잡한 모형을 써도 과적합이 잘 발생하지 않음 과적합을 해결하는 방법으로 다음 기술을 사용할 수 있습니다. 정규화: 패널티를 추가하여 모델이 복잡해지는 것을 막습니다. 훈련 데이터 증가: 더 많은 훈련 데이터를 사용하여 과적합을 막습니다. 가중치 감소: 모델의 가중치를 줄여 과적합을 막습니다. 교차 검증: 훈련 데이터를 여러 개의 부분으로 나누어 검증하여 과적합을 막습니다. 모델 간단화: 모델의 파..

딥러닝 기초 이론/밑바닥부터 시작하는 딥러닝 이론 2023. 1. 31. 20:43

배치 정규화 (Batch Normalization, BN) 기존에는 Gradient Vanishing, Exploding 현상을 해결하고 학습을 안정화하기 위해서 새로운 활성화 함수를 찾거나 가중치를 초기화하는 방법을 사용했었다. 하지만, 배치 정규화를 통해서 보다 근본적으로 학습과정을 안정화할 수 있고 빠르게 할 수 있다. 신경망을 학습시킬 때, 보통 전체 데이터를 한 번에 학습시키지 않고, 조그만 단위로 분할해서 학습을 시키는데, 이 때 조그만 단위가 배치이다. 큰 사이즈의 데이터를 한 번에 학습시키는 것은 시간이 오래걸린다. 따라서, 배치 단위로 정규화하는 것을 배치 정규화라고 부른다. 배치들은 학습을 진행하며, 각 layer의 활성화함수 입력값 또는 출력값에서 정규화된다. 배치 정규화를 활성화함수..

딥러닝 기초 이론/밑바닥부터 시작하는 딥러닝 이론 2023. 1. 30. 21:40