3η ΕΡΓΑΣΙΑ ΣΤΟ ΜΑΘΗΜΑ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ - ΒΑΘΙΑ ΜΑΘΗΣΗ

Υλοποίηση Radial Basis Function Neural Network

Σε αυτή την εργασία θα αναπτύξουμε και θα χρησιμοποιήσουμε ένα μοντέλο RBF Neural Network για την αναγνώριση των ψηφίων. Το πρόβλημα που προσπαθούν να επιλύσουν αφορά θέματα κατηγοριοποίσης ή παλινδρόμησης. Δύο είναι οι προαπαιτούμενες γνώσεις για την υλοποίηση τους: ο αλγόριθμος ομαδοποίησης Κ-means και η γραμμική παλινδρόμηση.

Το σύνολο δεδομένων MNIST αποτελείται από ψηφία από 0-9 γραμμένα στο χέρι. Είναι ένα κλασικό σύνολο δεδομένων που χρησιμοποιείται ευρέως στη τεχνητή όραση και τη βαθιά μάθηση. Αποτελείται από 60000 train δείγματα και 10000 test δείγματα. Κάθε δείγμα αποτελείται από 784 χαρακτηριστικά που είναι εικόνες 28×28. Oι τιμές των pixel για κάθε εικόνας ψηφίου αποτελείται από τα ένα πίνακα με 784 χαρακτηριστικά (features) και τη πραγματική τιμή (label) του εικονιζόμενου ψηφίου.

!pip install jovian --upgrade --quiet

Ας κάνουμε import τις βιβλιοθήκες που θα χρησιμοποιήσουμε στη συνέχεια.

import numpy as np
import torch
import math
import random
import torchvision
import time
import matplotlib.pyplot as plt
from torchvision.datasets import MNIST
import torchvision.transforms as transforms
import numpy as np
from sklearn.decomposition import PCA
from scipy.linalg import eigh
from sklearn.preprocessing import StandardScaler

Θα κατεβάσουμε και θα εισάγουμε τα δεδομένα με τη χρήση της βιβλιοθήκης torchvision.datasets.