Problem of Sigmoid 인공지능 학습 과정 입력 데이터에 가중치와 편향 적용 활성화 함수를 통해 예측 값 계산 예측 값과 실제 값(Ground Truth) 간의 오차를 손실 함수로 계산하여 모델의 성능을 평가 역전파로 그래디언트 계산 경사 하강법으로 가중치 업데이트 문제점 : 활성화 함수으로 Sigmoid를 사용하...

backpropagation 등장 배경 1960-80년대 초 단일 퍼셉트론과 같은 얕은 신경망에 초점이 맞춰져 있었음 다층 퍼셉트론과 같은 깊은 신경망의 학습은 역전파 알고리즘이 개발되기 전까지는 해결되기 어려운 문제 1986년 Geoffery Hinton, David Rumelhart, ...

Review : XOR XOR : 입력이 같으면 0, 다르면 1을 출력 단층 퍼셉트론(선형)으로는 XOR 문제를 해결할 수 없음 (Marvin Minsky, Perceptrons) Multi Layer Perceptron 여러 개의 층(layer)을 가지는 구조 단층 퍼셉트론으로는 해결할 수 없는 비선형 문제를 해결할 ...

인공신경망 동물의 신경계 (뇌의 뉴런) 의 동작방식을 본따 만든 모델 Nueron 뇌에서 신호를 주고받는 역할 입력신호의 총 크기가 특정값(threshhold)을 넘으면 다음 뉴런으로 전파되는 간단한 구조 Perceptron 인공신경망 한 종류 입력 x들에 대해 $\sum {x*w(weight)+b(bias)}$ 를...

DevContainer 란? DevContainer는 개발 환경을 코드로 정의하고, 이를 기반으로 일관된 개발 환경을 제공하는 도구 Visual Studio Code의 확장 기능으로, 개발 환경을 Docker 컨테이너 내에 구성 Docker와 같은 가상화 기술을 이용해 독립된 환경에서 작업할 수 있으며, 환경 설정이 자동화되므로 개발 환...

What is MNIST? 0~9까지 손으로 쓴 숫자로 구성된 데이터셋 우체국에서 우편번호를 자동으로 인식하기 위해 만들어짐 6만장 Train data, labes + 1만장 Test data, labels Example of MNIST 28 x 28 이미지 1 channel gray image (흑백) ...

Reminder : Maximum Likelihood Estimation Likelihood : 가능도, 우도 압정을 던졌을 때의 상황 가정 class 1. 납작한 면이 떨어지는 경우 class 2. 아닐 경우 각 class에 대한 확률분포가 존재함 → 확률을 인공지능을 통해 예측하고 싶다 예측해야 하는 값은 class1, cl...

Softmax Import import torch import torch.nn as nn import torch.nn.functional as F import torch.optim as optim # For reproducibility torch.manual_seed(1) Discrete Probability Distribution 이...

문제 링크 문제 링크 성능 요약 메모리: 4160 KB, 시간: 84 ms 문제 설명 상근이의 여동생 상냥이는 문방구에서 스티커 2n개를 구매했다. 스티커는 그림 (a)와 같이 2행 n열로 배치되어 있다. 상냥이는 스티커를 이용해 책상을 꾸미려고 한다. 상냥이가 구매한 스티커의 품질은 매우 좋지 않다. 스티커 한 장을 떼면, 그 스티커와 변...

문제 링크 문제 링크 성능 요약 메모리: 2032 KB, 시간: 0 ms 문제 설명 이진 트리를 입력받아 전위 순회(preorder traversal), 중위 순회(inorder traversal), 후위 순회(postorder traversal)한 결과를 출력하는 프로그램을 작성하시오. 예를 들어 위와 같은 이진 트리가 입력되면, ...