1. 생물학적 뉴런의 작동 원리
•
신경전달 물질이 들어와서 축삭언덕에서 합쳐진다. 이것이 임계치를 초과하면 axon으로 신호를 보내서 다음 뉴런으로 이동한다.
2. 수학적 표현
•
각각의 입력값에 중요도(가중치)가 부여되어 더해지고, 이 값이 활성함수를 거쳐 역치보다 크면 1 작으면 0을 내보내는 방식으로 구성된다.
3. 활성함수
•
활성함수 종류에 따라 인공뉴런의 기능이 달라짐.
•
대표적으로 계단함수를 활성함수로 사용하는 경우 선형 분류기와 같은 역할을 하며, 시그모이드 함수를 사용하는 경우 로지스틱 회귀와 같은 역할을 함
4. MNIST Classification
•
목적 : 손글씨 이미지가 어떤 Class(숫자)에 속하는지 판단
◦
이미지 정보 → Flatten
◦
Class 개수만큼 존재하는 가중치 세트가 있고, 이것이 입력값에 각각 곱해짐
◦
가중치와 곱해진 입력데이터가 더해짐
▪
여기까지의 과정이 데이터를 바탕으로 선형 함수의 결과를 얻는 것과 동일
◦
해당 값을 Softmax 함수를 활성함수로 하여, 특정 Class에 속할 확률값을 획득