Biologicky inspirovane algoritmy

• Stránky předmětu: Biologicky inspirované algoritmy
• Přednášející: Jiří Kubalík,Jan Drchal
• Cvičící: Kubalík J., Drchal J.

temata zde http://archive.ics.uci.edu/ml/datasets.html

Nastroje:

pouzivane na cviceni:

• JavaNNS - http://www.ra.cs.uni-tuebingen.de/software/JavaNNS/

dalsi mozne:

• weka - http://www.cs.waikato.ac.nz/ml/weka/ (rekl bych, ze asi nejjednodussi pro dany typ ukolu)
• matlab neural network toolkit

Plan:

• zadani - 4. tyden
• odevzdani uz 6.tyden - takze sup sup! :)

Skripta Doc. Snorka http://www.uloz.to/xW51TGT/neurony-kniha-zip

zapoctak, 60min, 20b/potreba min 10, 2 skupiny

A:
1) krouzkovaci GA jsou -> pravdepodobnostni, nejspis najdou v rozumnem case slusny vysledek
2) nakreslit minimální RBF síť schopnou naučit se XOR
3) jak se počítá topologická chyba v SOM
4) NN popis, co co znamena ve vzorecku
  w_i(t+1)=w_i(t) + alfa*(d(t)-y(t))*x_i(t)
5) f(A)=1, f(B)=3, f(C)=2, f(D)=5, f(E)=9 - nakreslit odpovídající ruletové kolo. Selekce 10 vzorků, jaké rozložení pravděpodobně dostaneme? Jaké hodnoty můžeme teoreticky dostat?
6) vícekriteriální GA. Co je to dominance, o co usilujeme u vícekriteriálního GA, zakreslit nedominovaná řešení do grafu.
7) genetické programování. popsat terminály a funkce a vysvětlit to na příkladu symbolické regrese

(na stiahnutie tuna: http://uloz.to/xAgovEPD/test-varianta2012-a-pdf)

zapoctak, 60min, 20b/potreba min 10, 2 skupiny

A:
1) krouzkovaci GA jsou -> pravdepodobnostni, nejspis najdou v rozumnem case slusny vysledek
2) co a jak se pouziva konstanta 1/5 :D v ES (naky modification probability ratio ci co)
3) co je SA(simulated annealing) a popis vliv chovani na teplote
4) NN popis, co co znamena ve vzorecku
  w_i(t+1)=w_i(t) + alfa*(d(t)-y(t))*x_i(t)
5) popis neuron MIA v GMBH, jak vypada, 2 aktivacni fce,...
6) co znamena linearne separabilni, ukaz priklad lin (ne)separab mnozin
7) 2 strategie vypoctu BMU v SOM:
  - min_i{|| x - w_i ||} a max_i{(x*w)}
8) 

B:

1.5h, casu tak akorat/dost, jedno zadani, 10 otazek, max 40b

1/ GMDH 
nakreslit, popsat vsechny vstupy/vahy MIA sit, ktera dela AND na dvou binarnich vstupech. 
Ivankoscev. neur = ai^2 + bij + cj^2 + di + ej +f. Urcit kdy skonci. 
..je to jen jeden ctverecek napojenej na dva vstupy. koef napr: b=1, zbytek=0, konec ptze err==0


2/ LSTM nakresli a popis
takovej ten kosoctverec s cyklem uvnitr (CEC), zapominani, in,out,..obr ve slidech

3/ HyperNEAT, co to je, jaka reprezentace, co dela CPPN, jak se lisi od NEATu, co je "ne suteren,..podobne :P"

4/ popis kroky obyc. GA

5/ perceptron, cim oddeluje, obrazek ve 2D

6/ Sammova konverze/redukce

7/ hodnoceni fitness v NSGA, cim je horsi nez NSGA2, vyznam fitness sharing

8/ "linear fitness spread" nebo tak, ze pri samplovani zohlednime: pocet_jedincu * jejich_fitness

9/ S-vyhodnoceni, + a - ... ta plocha

10/ popsat rovnici upravy rychlosti castice v PSO

1/ Nakreslit nejmenší MLP síť řešící XOR s nulovou chybou, včetně vah a prahu neuronů
2/ Popsat SANE, fitness funkci ..
3/ Popsat síť "s časovými okny", rozdíl oproti rekurentním sítím
4/ Popsat co je SOM, a jak to funguje
5/ Příklad dvou schemat (*1*100*1*, nepamatuji si), které je náchylnější na rozbití
6/ Popsat C metriku, výhody, nevýhody
7/ Vysvětlit proměnné a konstanty ve vzorci pro výběr dalšího města v Ant optimalizaci
8/ SPEA, počítání fitness, co je "síla"

1. MIA GMDH, Ivakhnenkuv polynom, XOR sit
2. NEAT
3. Sammonova projekce
4. ESN (echo state networks)
5. NSGA
6. C-metrika