몽이몽이몽몽이의 블로그 몽이몽이몽몽이의 블로그

Activation function Activation function은 말 글대로 활성함수로 각 뉴런에 입력된 데이터에 대한 뉴런의 출력이다. 예를 들어, Neural Network에서는 한 노드는 inputs과 각 weights과의 곱을 모두 더한 값을 입력받는다. 받아들인 이 값이 Activation function을 지난 값이 이 뉴런이 출력한 output이다. 1. activation function의 종류 Activation function의 위의 그림처럼 여러 종류가 존재한다. 신경망 초기에는 그림(b)와 같이 입력값이 어느정도에 도달해야만 값을 출력하도록하는 step function을 사용했다. 하지만 step function은 미분이 불가능하기 때문에 gradient descent를 통한..

pylab 함수 요약 pylab.subplot(1,3,1): 그림을 출력하는데 그림의 배치를 정해 줄 수 있다. 첫번째 파라미터가 a, 두번째 파라미터가 b라면 a행 b열로 위치를 나눈다. 세번째 파라미터는 나눠진 공간 중, 위치할 공간의 번호이다.예를들어 위의 함수처럼 사용한다면 1행 3열로 공간을 나눈다음 첫번째 공간에 그림을 배치하겠다는 것을 의미한다. pylab.axis(option): pylab를 출력하면 좌표값이 출력된다. 그림을 춫력하더라도 좌표가 출력된다. 이 좌표를 보이지 않기 위해서 option의 값에 pylab.axis('off')를 써주면 좌표가 출력되지 않는다. pylab.imshow(image): 이미지를 출력하기 위한 함수이다. 이때 image는 배열이어야 한다. pylab.g..

numpy 함수 요약본 Convolution에서 사용되는 numpy 함수 numpy.asarray(img, dtype='float64', size=w_shp): asarray는 입력된 파일인 img를 data type이 float64인 배열로 바꿔준다. size는 만들어지는 배열의 크기를 조정할 수 있는데, 만약 w_shp가 (2,3,9,9)라면 (((9x9)x3)x2)의 형태로 만들어지는 데 배열의 형태로 표현하면 array[2][3][9][9]와 같이 만들어진다. numpy.random.RandomState(123) : numpy.random.RandomState는 class명으로 랜덤넘버 생성기인 랜덤함수들을 포함하는 클래스라고 할 수 있다.RandomState는 다양한 확률분포측면에 수 많은 랜덤..

Theano 함수 요약본 1. Multilayer Perceptron에서 사용되는 theano 함수 theano.tensor: tensor type의 변수를 제공해주는 라이브러리 클래스이다. theano.tensor.lscalar(name=None, dtype=config.floatX): 0-dimensional ndarray를 위한 변수를 반환한다. theano.tensor.ivector(name=None, dtype=config.floatX): 1-dimensional ndarray를 위한 변수를 반환한다. theano.tensor.matrix(name=None, dtype=config.floatX): 2-dimensional ndarray를 위한 변수를 반환한다. theano.tensor4(name..

Convolution Neural Network CNN(Convolution Neural Network)는 딥러닝 알고리즘의 하나라고 할 수 있다. 딥러닝 알고리즘으로는 RBM, DBN, DNN, CNN 등을 들 수가 있는데, 이번 포스트에서는 CNN에대한 것 내용을 적어보자 한다. CNN은 이미지를 입력했을 때, 그 이미지가 어떤 이미지인지 판별하는 Classification모델이라고 할 수 있다. DBN이 generating 모델로 classification을 위해서 상위 RBM계층에 classification을 할 수 있도록 변경해줘야하는 것과 달리 CNN은 분류를 위한 모델이라고 할 수 있다. 머신러닝 계열의 알고리즘에선 classification을 위한 모델로 Linear regression과 ..

Continuous Pattern Mining Using the FCPGrowth Algorithm in Trajectory Data Warehouse Marcin Gorawhki and Pawel Jureczek Abstract1) 이 논문은 FCP-Tree 인덱스 구조를 보여주고 FCPGrowth라는 새로운 알고리즘을 보여주기 위한 논문이다.2) FCPGrowth는 새로운 알고리즘으로 경로 데이터 웨어하우스에서 연속적인 패턴의 마이닝을 위한 알고리즘이다.3) FCP-Tree는 종합적인 트리로 같은 노드들에서 비슷한 연속적인 것들을 저장한다.4) FCPGrowth의 특징은 recursion level의 중간단계의 트리들을 구성할 필요가 없다. 따라서 적은 용량의 메모리만 요구.5) FCPGrowth는 ..