Paper

합성곱/풀링 계층 구현하기

numpy에 for문을 사용하면 성능이 떨어지는 단점이 있습니다.(numpy에서는 원소에 접근할 때 for문을 사용하지 않는 것이 바람직합니다.) for문을 대신하여 im2col 함수를 이용합니다. im2col 함수를 이용한 합공곱 계층의 구현 흐름im2col 함수는 필터링하기 좋게 입력 데이터를 전개합니다.3차원 입력 데이터에 im2col을 적용하면 2차원 행렬로 바뀝니다.정확히는, 배치 안의 데이터 수까지 포함한 4차원 데이터를 2차원으로 변환합니다. 위 그림은 스트라이드를 크게 필터의 적용 영역이 겹치지 않도록 했지만, 실제 상황에서는 영역이 겹치는 경우가 대부분입니다.필터 적용 영역이 겹치게 되면 im2col로 전개한 후의 원소 수가 원래 블록의 수보다 많아집니다.그래서 im2col을 사용해 구현..

[리뷰]Densecap: Fully Convolutional Localization Networks for Dense Captioning 번역

Abstract(요약) 저희는 컴퓨터 비전 시스템이 이미지 안에 있는 핵심적인 부분을 자연어로 localize하고 설명해야 하는 고밀도 캡션 작업을 소개합니다. 고밀도 캡션 작업은 하나의 단어로만 이루어진 묘사를 하는 객체 감지와 예측된 영역 하나가 전체 이미지를 커버하는 이미지 캡션을 일반화합니다. Localization 및 설명 작업을 동시에 해결하기 위해 효율적인 포워드 패스(forward pass)로 하나의 이미지를 처리하고 , external regions proposals가 필요하지 않으며 최적화된 싱글 라운드로 end-to-end 학습이 가능한 FCLN(Fully Convolutional Localization Network) 아키텍처를 다룹니다. 이 아키텍처는 새로운 고밀도 localiza..

Chainer: A Deep Learning Framework for Accelerating theResearch Cycle 리뷰

딥러닝 프레임워크 중 하나인 Chainer에 대해 리뷰를 해보려고 합니다. Chainer 소개 Chainer는 이라는 일본 벤처 기업이 개발한 딥러닝 프레임워크입니다. 특징 ▒ "Define-and-run" vs "Define-by-run" Chainer는 무엇보다도 다른 딥러닝 프레임워크와는 다르게 "Define-by-run" 체계를 기반으로 합니다. Tensorflow, Caffe, Microsoft의 CNTK 모두 정적 그래프 프레임워크이며 "Define-and-run" 체계 기반입니다. "Define-and-run"은 네트워크(또는 계산 그래프)가 정의되고 고정된 후 미니 배치가 고정된 네트워크에 공급되는 형식이고, "Define-by-run"은 미니 배치가 공급되고 네트워크는 순방향 계산을 통..