우잉's Development

1. 프롬프트 엔지니어링 - 컴퓨터와 새로운 상호작용 방법 - 자연어로 컴퓨터와 상호작용하는 방법 - 머신러닝 모델링 방법과 개발 방법을 혼합해 놓은 것과 비슷함 - 머신러닝 모델링 방법과 개발 방법론을 둘 다 이해하고 활용할 수 있어야 높은 수준의 프롬프트 엔지니어링을 할 수 있음. - 실험적 방법론에 기한하여, 한 번 그럴듯한 결과를 내는 것이 아닌, 원하는 결과를 정화히 의도한대로 항상 일관성 있게내도록 만드는 것 - 프롬프트 엔지니어링이라고 하는 대부분의 예시는 블라인드 프롬프팅, 혹은 프롬프트 라이팅이라고함. 2. fine-tuning과 prompt의 차이 - ML 연구는 프로젝트를 설정하고 데이터를 정제(준비) 하고 모델링을 하고 개발을 하는 과정으로 크게 4가지로 나뉘지만, 프롬프트 엔지니어..

이번에 리뷰할 논문은 MobileNets: Efficient Convolution Neural Networks for Mobile Vision Application입니다. Abstract Xception에서 Depthwise separable convolution을 활용하여 감소한 파라미터 수 만큼 층을 쌓아 성능을 높이는데 집중했습니다. MobileNet은 반대로 경량화에 중점을 뒀습니다. 경량화에 중점을 둔 이유는 핸드폰이나 임베디드 시스템 같이 저용량 메모리 환경에 딥러닝을 적용하기 위해서 모델 경량화가 필요하기 때문입니다. Introduction 합성곱 신경망은 대중화 되면서 컴퓨터 비전에서 흔하게 됬습니다. 일반적으로 더 높은 정확도를 높이기 위해서 더 깊고 복잡한 네트워크를 만드는 것이 일반적..

보호되어 있는 글입니다.

제 처음 포스팅할 논문은 Mask R-CNN입니다. 이제 막 딥러닝 논문을 시작하려는 제가 Mask R-CNN을 보기엔 다른 논문 또는 개념들이 부족합니다. 계속 추가적으로 공부하고 포스팅하며 관련 포스팅도 추가하고 수정하면서 공부할 계획입니다. 잘못된 부분이 있거나 궁금하신 사항 있으시면 언제든지 댓글 부탁드립니다. 자! 그럼 저의 첫 논문 리뷰 스터디를 시작하겠습니다! Mask R-CNN논문을 리뷰하기 전에 instance segmentation에 대해 짚고 넘어가겠습니다. a) 사진에서는 이미지에 있는 object를 bottle, cup, cube로 분류 b) 사진에서는 그 object들이 어디에 위치해 있는지 표시 c) 사진에서는 b에서 좀 더 세심하게 틀을 표시, cube는 다같은 보라색으로 표..

1. local minima 이란? 왼쪽 그래프가 산이라 생각해봅시다. 빨색 점을 향해 내려가고 있다고 생각해봅시다. 어디까지 내려왔다고 생각 할 수 있습니까? 다음 길은 올라가는 길이므로 다 내려 왔다고 착각을 할 수있습니다. 즉, local minimum에 빠져 global minimum을 찾기 힘들어지는 문제를 local minima라 합니다. 그리고 기존에 기계학습 (machine learning)이 잘안되거나 성능이 안나오는 이유는 학습 중에 local minimum에 빠졌기 때문이라는게 일반적인 상식입니다. 2. local minima를 피하기 위한 방법 Momentum방법 Momentum은 물리적 개념입니다. 질량과 속도의 곱을 나타내는데, DNN모델에서는 질량이란 개념을 도입하지 않으니 속..