Kunstmatige intelligentie
Programmeeropgave 4, 2018 — Neurale netwerken

De vierde programmeeropgave (in het voorjaar van 2018) behorende bij het vak Kunstmatige intelligentie gaat over Neurale netwerken.
Het is de bedoeling een eenvoudig Neuraal netwerk (NN) te programmeren met één verborgen laag dat simpele Booleaanse functies, zoals XOR, kan leren.

Maak een netwerk voor 2-inputs (X)OR- en AND-problemen. Gebruik het skelet-programma en bekijk deze hints. Zorg er hierbij voor dat de voorbeelden in random volgorde worden aangeboden.
Bestudeer de verschillen, gebruik verschillende leersnelheden, aantallen verborgen knopen, epochs, etcetera. Wanneer gaat het fout? Is er verschil tussen OR en XOR?

Leg duidelijk uit over welke fout gerapporteerd wordt. Werkt het ook nog als je de rectifier als activatie-functie gebruikti in plaats van "sigmoid"?

Tot slot: vergelijk het netwerk met een versie die met behulp van Keras gemaakt is, zie uitleg. De sample code staat hier. Zijn de resultaten vergelijkbaar?

Voor gnuplot zie bij de vorige opgaven.

Leg in het verslag ook kort BackPropagation uit, met de formules, en uiteraard een referentie naar het juiste hoofdstuk in Russell en Norvig.
In te leveren: geprint verslag (in LaTeX gemaakt; de eigen C++-code als Appendix, zie verder hier voor opmerkingen over het verslag), en per email: C++-code. Stuur svp geen emails met LaTeX/PostScript/PDF.

Deadline: donderdag 24 mei 2018, 11:00 uur.


Vragen en/of opmerkingen kunnen worden gestuurd naar: w.a.kosters@liacs.leidenuniv.nl.

19 april 2018 — http://www.liacs.leidenuniv.nl/~kosterswa/AI/nn18.html