우잉's Development

이번에 리뷰할 논문은 MobileNets: Efficient Convolution Neural Networks for Mobile Vision Application입니다. Abstract Xception에서 Depthwise separable convolution을 활용하여 감소한 파라미터 수 만큼 층을 쌓아 성능을 높이는데 집중했습니다. MobileNet은 반대로 경량화에 중점을 뒀습니다. 경량화에 중점을 둔 이유는 핸드폰이나 임베디드 시스템 같이 저용량 메모리 환경에 딥러닝을 적용하기 위해서 모델 경량화가 필요하기 때문입니다. Introduction 합성곱 신경망은 대중화 되면서 컴퓨터 비전에서 흔하게 됬습니다. 일반적으로 더 높은 정확도를 높이기 위해서 더 깊고 복잡한 네트워크를 만드는 것이 일반적..

3.4 3층 신경망 구현하기 3.4.3 구현 정리 init_network() 함수는 가중치와 편향을 초기화 하고 이들을 딕셔너리 변수인 network에 저장합니다. 그리고 forward() 함수는 입력신호를 출력으로 변환하는 처리과정을 모두 구현합니다. 3.5 출력층 설계하기 기계학습 문제 ① 분류 : 데이터가 어느 클래스에 속하는지 문제 ex) 항등함수 ② 회귀 : 입력데이터에서 (연속적인) 수치를 예측하는 문제 ex) 소프트맥스 함수 신경망은 분류와 회귀 문제 모두 이용할 수 있습니다. 다만 어떤 문제냐에 따라 출력층에 사용하는 활성화 함수가 달라집니다. 3.5.1 항등함수와 소프트맥스 함수 구현하기 항등함수는 입력을 그대로 출력합니다. 즉, 입력과 출력이 항상 같습니다. 한편, 분류에서 사용하는 소..

보호되어 있는 글입니다.

저번 게시글에서 배운 내용은 퍼셉트론입니다. 퍼셉트론의 장점은 이론상 복잡한 함수표현이 가능하고 단점은 가중치를 인간이 수동적으로 해야한다는 겁니다. 이 단점을 보완하기 위해 신경망이 나왔습니다. 3.1 퍼셉트론에서 신경망으로 3.1.1 신경망의 예 은닉층은 입력층과 출력층과 다르게 눈에 보이지 않습니다. 입력층: 0층, 은닉층: 1층, 출력층: 2층 3.1.2 퍼셉트론 복습 \(y = \begin{cases} 0 & b+w_1x_1+w_2x_2 \le \theta \\ 1 & b+w_1x_1+w_2x_2 > \theta \end{cases} \) \(x_1\), \(x_2\) : 입력신호 \(y\) : 출력신호 \(w_1\), \(w_2\) : 각 신호의가중치 \(b\) : 편향 가중치가 b고 입력이 ..

제 처음 포스팅할 논문은 Mask R-CNN입니다. 이제 막 딥러닝 논문을 시작하려는 제가 Mask R-CNN을 보기엔 다른 논문 또는 개념들이 부족합니다. 계속 추가적으로 공부하고 포스팅하며 관련 포스팅도 추가하고 수정하면서 공부할 계획입니다. 잘못된 부분이 있거나 궁금하신 사항 있으시면 언제든지 댓글 부탁드립니다. 자! 그럼 저의 첫 논문 리뷰 스터디를 시작하겠습니다! Mask R-CNN논문을 리뷰하기 전에 instance segmentation에 대해 짚고 넘어가겠습니다. a) 사진에서는 이미지에 있는 object를 bottle, cup, cube로 분류 b) 사진에서는 그 object들이 어디에 위치해 있는지 표시 c) 사진에서는 b에서 좀 더 세심하게 틀을 표시, cube는 다같은 보라색으로 표..