ai

1.CNN으로 MNIST 학습하기 흐름 1. import2. 데이터 변환 & 로딩 (MNIST)3. CNN 모델 정의 (Conv2d → ReLU → MaxPool2d → Flatten → Linear)4. 손실 함수 & 옵티마이저 설정5. 1 Epoch 학습 루프6. 출력 shape, loss 확인 코드 # 0. Importimport torchimport torch.nn as nnimport torch.nn.functional as Ffrom torchvision import datasets, transformsfrom torch.utils.data import DataLoader# 1. 데이터 변환 및 로딩transform = transforms.ToTensor()train_dataset = data..

퍼셉트론 입력을 받아서 가중치 곱하고 더해서 출력 내보내는 계산 단위 → 이게 하나의 노드(뉴런)여러 퍼셉트론(노드)이 모여서 한 층(layer)을 만듦층을 여러 개 쌓으면 다층 퍼셉트론(MLP)단층 퍼셉트론과 다층 퍼셉트론 단층 퍼셉트론은 입력층,출력층이 각각 1개라고 가정했을 때 출력층에 y=w * x + b라고 하면 x가 들어가서 w,b에 맞춰서 예측값이 나오고 w,b가 갱신되는 구조라면다층 퍼셉트론은 y = w * x + b가 노드별로 존재하는 것은 동일하지만, 각 노드별로 가중치와 편향의 값이 다름. 다층 퍼셉트론 원리 맨 처음에 x값을 주면 랜덤으로 설정된 w,b로 인해 예측값을 만들고, 기존 정답 y를 기반으로 손실함수를 만들어 손실함수에서의 w값에 대응되는 기울기를 구해 w값을 조정한다..

흐름 0.import하기1.데이터 변환 설정2.데이터셋 불러오기3.데이터 로더 설정4.MLP 모델 정의5.옵티마이저,손실함수 설정6.학습 코드# 0.importimport torchimport torch.nn as nnfrom torchvision import datasets, transformsfrom torch.utils.data import DataLoader# 1.데이터 변환 설정transform = transforms.ToTensor()# 2.데이터셋 불러오기train_dataset = datasets.MNIST( root='./data', train=True, transform=transform, download=True)# 3.데이터로더 설정train_loader = ..

실험 : 전에 활용했던 XOR문제를 풀기위한 MLP 코드를 파라미터를 변경해보며 정확도를 올려보자. day3에서 기존 XOR문제를 MLP에서 해결한 코드에서 성능을 올려보기 위하여 파라미터나 활성함수, 옵티마이저 등을 조금씩 변경해보며 정확도를 올려보자. 기본 설정을 기준으로 하나씩만 변화시킨다. 예를 들면 은닉층 크기만 바꾸거나, lr만 바꾸는 등 한번에 1개 항목만 바꾼다. (loss나 예측값은 소수점 셋째자리까지만 표기한다.) 실험 실험은닉층 크기활성화학습률(lr)Epoch 수Optimizer비교 포인트14ReLU0.11000SGD기본 설정 (Baseline)22ReLU0.11000SGD은닉층 작게38ReLU0.11000SGD은닉층 크게44ReLU0.011000SGDlr 줄여서 비교54ReLU0.1..

1. Custom Dataset 클래스 직접 작성하고 DataLoader로 불러오기 Custom Dataset이란PyTorch는 데이터를 불러오는 방법을 Dataset이라는 클래스로 정해두었습니다.MNIST 같은 건 이미 만들어져 있는 Dataset이라서 그냥 불러오면 되지만, 내가 만든 데이터는 내 Dataset 클래스를 직접 만들어야 합니다. 1.torch.utils.data.Dataset 상속하기파이토치가 “데이터셋”이라고 인정하려면 torch.utils.data.Dataset을 상속해야 합니다.그리고 3가지 메서드는 꼭 만들어야 합니다init : 데이터를 처음에 어떻게 준비할지len : 데이터가 몇 개나 있는지 알려주기getitem : 인덱스로 원하는 데이터를 꺼내오기 2.간단한 toy 데이터..

오늘은 데이터 여러개를 하나로 묶어보고, loss함수를 시각화 해본다. 1.Dataset/DataLoader로 mini-batch 실습 mini-batch란전체 데이터셋을 작은 덩어리(batch) 로 쪼개서 학습에 쓰는 데이터 묶음 단위[전체 데이터] → [[샘플 1~4], [샘플 5~8], [샘플 9~12], ...] for x_batch, y_batch in dataloader: # batch 단위로 순전파 → 손실 → 역전파 → 파라미터 업데이트 여기서 한 batch에 위에 샘플1~4 이렇게 한 덩어리가 들어감 mini-batch를 사용하는 이유전체 데이터 한 번에 학습하면? (Batch Gradient Descent) -> 데이터가 작으면 상관없는데, 데이터가 커지면 메모리 터지고 속도도..

1.1번만 돌리는 ai 흐름1)데이터x,y입력2)w초기화3)예측값4)손실함수5)역전파 -> 기울기계산6.w초기화 -> w업데이트(기울기 계산한거 바탕으로) 코드import torch#1.x,y 입력x = torch.tensor([1.0,2.0,3.0])y_true = torch.tensor([2.0,4.0,6.0])#2.w 초기화w = torch.tensor([0.1],requires_grad=True)#3.예측값 만들기 w * xy_pred = w * x#4.손실값 계산loss = torch.mean((y_pred - y_true) ** 2)#(w,예측값,손실값 출력)print(f"현재 w: {w.item():.4f}")print(f"예측값:{y_pred}")print(f"손실값:{loss.item()..