Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Lecture: fix yaml headers (indentation, homework sheets) #312

Merged
merged 1 commit into from
Oct 6, 2023
Merged
Show file tree
Hide file tree
Changes from all commits
Commits
File filter

Filter by extension

Filter by extension

Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
26 changes: 13 additions & 13 deletions lecture/nn/nn1_perceptron.md
Original file line number Diff line number Diff line change
Expand Up @@ -15,21 +15,21 @@ outcomes:
# comment: "Kapitel 2 und 3"
# - key: "Ertel2017"
quizzes:
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106589&client_id=FH-Bielefeld"
name: "Selbsttest Intro ML (ILIAS)"
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106589&client_id=FH-Bielefeld"
name: "Selbsttest Intro ML (ILIAS)"
assignments:
- topic: sheet07
- topic: sheet07
youtube:
- link: "https://youtu.be/IJdiwITTC9Y"
name: "NN1.1 - Einführung"
- link: "https://youtu.be/oWcvFyLgqYc"
name: "NN1.2 - Fallstudie und Formalisierung"
- link: "https://youtu.be/ZvWpI0Doocc"
name: "NN1.3 - Das Perzeptron Modell"
- link: "https://youtu.be/8Rdw2NBCCJk"
name: "NN1.4 - Perzeptron Beispiel"
- link: "https://youtu.be/JD8Qsg8_kQI"
name: "NN1.5 - Der Perzeptron Lernalgorithmus"
- link: "https://youtu.be/IJdiwITTC9Y"
name: "NN1.1 - Einführung"
- link: "https://youtu.be/oWcvFyLgqYc"
name: "NN1.2 - Fallstudie und Formalisierung"
- link: "https://youtu.be/ZvWpI0Doocc"
name: "NN1.3 - Das Perzeptron Modell"
- link: "https://youtu.be/8Rdw2NBCCJk"
name: "NN1.4 - Perzeptron Beispiel"
- link: "https://youtu.be/JD8Qsg8_kQI"
name: "NN1.5 - Der Perzeptron Lernalgorithmus"
attachments:
- link: "https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/files/NN1-Das_Perzeptron.pdf"
name: "NN1-Das_Perzeptron.pdf"
Expand Down
36 changes: 18 additions & 18 deletions lecture/nn/nn2_linear_regression.md
Original file line number Diff line number Diff line change
Expand Up @@ -15,37 +15,37 @@ outcomes:
# comment: "Kapitel 2 und 3"
# - key: "Ertel2017"
quizzes:
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106590&client_id=FH-Bielefeld"
name: "Selbsttest Lineare Regression (ILIAS)"
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106590&client_id=FH-Bielefeld"
name: "Selbsttest Lineare Regression (ILIAS)"
assignments:
- topic: sheet08
- topic: sheet08
youtube:
- link: "https://youtu.be/f-DTaKMnkj4"
name: "NN2.1 - Lineare Regression - Intro"
- link: "https://youtu.be/UnLjjMswNRo"
name: "NN2.2 - Vergleich Perzeptron und Bsp"
- link: "https://youtu.be/H2YvYIaUW1Q"
name: "NN2.3 - Kostenfunktiıon und Gradientenvektor"
- link: "https://youtu.be/URaVsZnfppQ"
name: "NN2.4 - Berechnung Gradientenvektor - Beispiel"
- link: "https://youtu.be/5OZF3Qopous"
name: "NN2.5 - Berechnung Gradientenvektor - Allgemein"
- link: "https://youtu.be/m-TnM13I-no"
name: "NN2.6 - Skalierung der Merkmale"
- link: "https://youtu.be/f-DTaKMnkj4"
name: "NN2.1 - Lineare Regression - Intro"
- link: "https://youtu.be/UnLjjMswNRo"
name: "NN2.2 - Vergleich Perzeptron und Bsp"
- link: "https://youtu.be/H2YvYIaUW1Q"
name: "NN2.3 - Kostenfunktiıon und Gradientenvektor"
- link: "https://youtu.be/URaVsZnfppQ"
name: "NN2.4 - Berechnung Gradientenvektor - Beispiel"
- link: "https://youtu.be/5OZF3Qopous"
name: "NN2.5 - Berechnung Gradientenvektor - Allgemein"
- link: "https://youtu.be/m-TnM13I-no"
name: "NN2.6 - Skalierung der Merkmale"
attachments:
- link: "https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/files/NN2-Lineare_Regression.pdf"
name: "NN2-Lineare_Regression.pdf"
challenges: |
**Skalierung der Merkmale**

Abbildung 1 und Abbildung 2 zeigen die [Höhenlinien](https://de.wikipedia.org/wiki/H%C3%B6henlinie) ([Contour Lines](https://en.wikipedia.org/wiki/Contour_line)) von zwei Kostenfunktionen.

![Abbildung 1](https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/images/contour_plot_a.png){width="40%"}
![Abbildung 2](https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/images/contour_plot_b.png){width="40%"}

* Erklären Sie, welcher der beiden Fälle nachteilhaft für den Gradientenabstieg Algorithmus ist. Wo liegt der Nachteil?
* Erklären Sie, welcher der beiden Fälle nachteilhaft für den Gradientenabstieg Algorithmus ist. Wo liegt der Nachteil?
Wie kann die Merkmalskalierung dem genannten Nachteil entgegenwirken?
* Zeigen Sie unter Verwendung Ihrer eigenen, zufällig generierten Datenpunkte aus dem Bereich
* Zeigen Sie unter Verwendung Ihrer eigenen, zufällig generierten Datenpunkte aus dem Bereich
$[100, 300] \times [0, 2]$, wie sich Standardisierung, Min-Max Skalierung und Normalisierung auf die Daten auswirken.
Vergleichen Sie dazu die jeweiligen Streudiagramme (scatterplots). Sie können hierzu das folgende [**Jupyter Notebook**](https://github.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/blob/master/lecture/nn/files/Feature_Scaling_Starter.ipynb) als Startpunkt benutzen.
---
Expand Down
22 changes: 11 additions & 11 deletions lecture/nn/nn3_logistic_regression.md
Original file line number Diff line number Diff line change
Expand Up @@ -14,19 +14,19 @@ outcomes:
# comment: "Kapitel 2 und 3"
# - key: "Ertel2017"
quizzes:
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106591&client_id=FH-Bielefeld"
name: "Selbsttest Logistische Regression (ILIAS)"
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106591&client_id=FH-Bielefeld"
name: "Selbsttest Logistische Regression (ILIAS)"
assignments:
- topic: sheet09
- topic: sheet08
youtube:
- link: "https://youtu.be/GpJmjrqA5RY"
name: "NN3.1 - Logistische Regression - Intro"
- link: "https://youtu.be/z-jFZeNWMRc"
name: "NN3.2 - Logistische Regression - Hypothesenfunktion und Bsp"
- link: "https://youtu.be/ruuCKupOhCE"
name: "NN3.3 - Logistische Regression - Verlust und Kosten"
- link: "https://youtu.be/kPAZsr-r1LA"
name: "NN3.4 - Logistische Regression - Gradientenabstieg"
- link: "https://youtu.be/GpJmjrqA5RY"
name: "NN3.1 - Logistische Regression - Intro"
- link: "https://youtu.be/z-jFZeNWMRc"
name: "NN3.2 - Logistische Regression - Hypothesenfunktion und Bsp"
- link: "https://youtu.be/ruuCKupOhCE"
name: "NN3.3 - Logistische Regression - Verlust und Kosten"
- link: "https://youtu.be/kPAZsr-r1LA"
name: "NN3.4 - Logistische Regression - Gradientenabstieg"
attachments:
- link: "https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/files/NN3-Logistische_Regression.pdf"
name: "NN3-Logistische_Regression.pdf"
Expand Down
18 changes: 9 additions & 9 deletions lecture/nn/nn4_overfitting.md
Original file line number Diff line number Diff line change
Expand Up @@ -9,18 +9,18 @@ outcomes:
- k2: "Regularisierung (Auswirkung auf Gewichte und Modell)"
- k3: "Gradientenabstieg für regularisierte logistische Regression"
readings:
- key: "AbuMostafa2012"
comment: "Kapitel 4"
- key: "AbuMostafa2012"
comment: "Kapitel 4"
quizzes:
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106595&client_id=FH-Bielefeld"
name: "Selbsttest Overfitting (ILIAS)"
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106595&client_id=FH-Bielefeld"
name: "Selbsttest Overfitting (ILIAS)"
assignments:
- topic: sheet10
- topic: sheet09
youtube:
- link: "https://youtu.be/KJLT-h_ChRo"
name: "NN4.1 - Nichtlineare Modelle"
- link: "https://youtu.be/BW91MYPUH_k"
name: "NN4.2 - Overfitting und Regularisierung"
- link: "https://youtu.be/KJLT-h_ChRo"
name: "NN4.1 - Nichtlineare Modelle"
- link: "https://youtu.be/BW91MYPUH_k"
name: "NN4.2 - Overfitting und Regularisierung"
attachments:
- link: "https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/files/NN4-Nichtlineare_Modelle_und_Overfitting.pdf"
name: "NN4-Nichtlineare_Modelle_und_Overfitting.pdf"
Expand Down
22 changes: 11 additions & 11 deletions lecture/nn/nn5_mlp.md
Original file line number Diff line number Diff line change
Expand Up @@ -13,34 +13,34 @@ outcomes:
# comment: "Kapitel 2 und 3"
# - key: "Ertel2017"
quizzes:
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106592&client_id=FH-Bielefeld"
name: "Selbsttest Multilayer Perzeptron (ILIAS)"
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106592&client_id=FH-Bielefeld"
name: "Selbsttest Multilayer Perzeptron (ILIAS)"
assignments:
- topic: sheet10
- topic: sheet09
youtube:
- link: "https://youtu.be/7ltwa5WWuKI"
name: "NN5.1 - MLP Forward Propagation"
- link: "https://youtu.be/7ltwa5WWuKI"
name: "NN5.1 - MLP Forward Propagation"
attachments:
- link: "https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/files/NN5-MLP.pdf"
name: "NN5-MLP.pdf"
challenges: |
**Lineares MLP**

Gegeben sei ein MLP mit linearen Aktivierungsfunktionen, d.h. für jedes Neuron berechnet sich der
Gegeben sei ein MLP mit linearen Aktivierungsfunktionen, d.h. für jedes Neuron berechnet sich der
Output durch die gewichtete Summe der Inputs: $y = g(w^T x)$, wobei $g(z) = z$ gilt, also $y = w^T x$.
Zeigen Sie, dass dieses Netz durch eine einzige Schicht mit linearen Neuronen ersetzt werden kann.
Zeigen Sie, dass dieses Netz durch eine einzige Schicht mit linearen Neuronen ersetzt werden kann.

Betrachten Sie dazu ein zwei-schichtiges Netz (i.e. bestehend aus Eingabe-Schicht, Ausgabe-Schicht und einer versteckten Schicht)
Betrachten Sie dazu ein zwei-schichtiges Netz (i.e. bestehend aus Eingabe-Schicht, Ausgabe-Schicht und einer versteckten Schicht)
und schreiben Sie die Gleichung auf, die die Ausgabe als Funktion der Eingabe darstellt.

Als Beispiel sei das zwei-schichtige MLP mit den folgenden Gewichten und Bias-Werten gegeben:

Schicht 1: $W_1 = [[2, 2],[3, -2]]$, $b_1 = [[1],[-1]]$
Schicht 1: $W_1 = [[2, 2],[3, -2]]$, $b_1 = [[1],[-1]]$
Schicht 2: $W_2 = [[-2, 2]]$, $b_2 = [[-1]]$

* Stellen Sie dieses Netzwerk graphisch dar. Was ist die Anzahl der Zellen in den einzelnen Schichten?
* Stellen Sie dieses Netzwerk graphisch dar. Was ist die Anzahl der Zellen in den einzelnen Schichten?
* Berechnen Sie die Ausgabe für eine Beispiel-Eingabe Ihrer Wahl.
* Stellen Sie ein ein-schichtiges Netz auf, das für jede Eingabe die gleiche Ausgabe wie das obige Netzwerk berechnet und es somit ersetzen könnte.
* Stellen Sie ein ein-schichtiges Netz auf, das für jede Eingabe die gleiche Ausgabe wie das obige Netzwerk berechnet und es somit ersetzen könnte.
---


Expand Down
18 changes: 9 additions & 9 deletions lecture/nn/nn6_backprop.md
Original file line number Diff line number Diff line change
Expand Up @@ -13,17 +13,17 @@ outcomes:
# comment: "Kapitel 2 und 3"
# - key: "Ertel2017"
quizzes:
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106593&client_id=FH-Bielefeld"
name: "Selbsttest Backpropagation (ILIAS)"
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106593&client_id=FH-Bielefeld"
name: "Selbsttest Backpropagation (ILIAS)"
assignments:
- topic: sheet11
- topic: sheet10
youtube:
- link: "https://youtu.be/G9x75THjueQ"
name: "NN6.1 - MLP Backpropagation 1"
- link: "https://youtu.be/9Ku0dJ8pGrU"
name: "NN6.2 - MLP Backpropagation 2"
- link: "https://youtu.be/uvT4WPIIkwQ"
name: "NN6.3 - MLP Zusammenfassung"
- link: "https://youtu.be/G9x75THjueQ"
name: "NN6.1 - MLP Backpropagation 1"
- link: "https://youtu.be/9Ku0dJ8pGrU"
name: "NN6.2 - MLP Backpropagation 2"
- link: "https://youtu.be/uvT4WPIIkwQ"
name: "NN6.3 - MLP Zusammenfassung"
attachments:
- link: "https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/files/NN6-MLP_Backpropagation.pdf"
name: "NN6-MLP_Backpropagation.pdf"
Expand Down
16 changes: 8 additions & 8 deletions lecture/nn/nn7_training_testing.md
Original file line number Diff line number Diff line change
Expand Up @@ -14,17 +14,17 @@ outcomes:
# comment: "Kapitel 2 und 3"
# - key: "Ertel2017"
quizzes:
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106594&client_id=FH-Bielefeld"
name: "Selbsttest Training & Testing (ILIAS)"
- link: "https://www.hsbi.de/elearning/goto.php?target=tst_1106594&client_id=FH-Bielefeld"
name: "Selbsttest Training & Testing (ILIAS)"
#assignments:
# - topic: sheet12
youtube:
- link: "https://youtu.be/PUw-TvLJULI"
name: "NN7.1 - Training, Testing, Validierung"
- link: "https://youtu.be/DqjdZ8HaDSo"
name: "NN7.2 - Kreuzvalidierung"
- link: "https://youtu.be/7XATTMNI-gI"
name: "NN7.3 - Beispiel"
- link: "https://youtu.be/PUw-TvLJULI"
name: "NN7.1 - Training, Testing, Validierung"
- link: "https://youtu.be/DqjdZ8HaDSo"
name: "NN7.2 - Kreuzvalidierung"
- link: "https://youtu.be/7XATTMNI-gI"
name: "NN7.3 - Beispiel"
attachments:
- link: "https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/files/NN7-Testing-Validierung.pdf"
name: "NN7-Testing-Validierung.pdf"
Expand Down
20 changes: 10 additions & 10 deletions lecture/nn/nn8_testing.md
Original file line number Diff line number Diff line change
Expand Up @@ -18,16 +18,16 @@ outcomes:
# comment: "Kapitel 2 und 3"
# - key: "Ertel2017"
youtube:
- link: "https://youtu.be/T-WYL28iwdU"
name: "NN8.1 - Confusion Matrix"
- link: "https://youtu.be/fpsNzn4Moow"
name: "NN8.2 - Precision und Recall"
- link: "https://youtu.be/Wx_HAuIXTAQ"
name: "NN8.3 - Precision Recall Trade-off"
- link: "https://youtu.be/UAV7EpdIe6Q"
name: "NN8.4 - F1-Score"
- link: "https://youtu.be/vsmoYiArtrA"
name: "NN8.5 - Harmonisches Mittel- Intuition"
- link: "https://youtu.be/T-WYL28iwdU"
name: "NN8.1 - Confusion Matrix"
- link: "https://youtu.be/fpsNzn4Moow"
name: "NN8.2 - Precision und Recall"
- link: "https://youtu.be/Wx_HAuIXTAQ"
name: "NN8.3 - Precision Recall Trade-off"
- link: "https://youtu.be/UAV7EpdIe6Q"
name: "NN8.4 - F1-Score"
- link: "https://youtu.be/vsmoYiArtrA"
name: "NN8.5 - Harmonisches Mittel- Intuition"
attachments:
- link: "https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/files/NN8-Performanzanalyse.pdf"
name: "NN8-Performanzanalyse.pdf"
Expand Down
8 changes: 4 additions & 4 deletions lecture/nn/nn9_llm.md
Original file line number Diff line number Diff line change
Expand Up @@ -13,10 +13,10 @@ outcomes:
# comment: "Kapitel 2 und 3"
# - key: "Ertel2017"
youtube:
- link: "https://youtu.be/TODO"
name: "NN9.1 - TODO"
- link: "https://youtu.be/TODO"
name: "NN9.2 - TODO"
- link: "https://youtu.be/TODO"
name: "NN9.1 - TODO"
- link: "https://youtu.be/TODO"
name: "NN9.2 - TODO"
attachments:
- link: "https://raw.githubusercontent.com/Artificial-Intelligence-HSBI-TDU/KI-Vorlesung/master/lecture/nn/files/NN9-LLM.pdf"
name: "NN9-LLM.pdf"
Expand Down