Abstrakt: | Spracovanie štruktúrovaných dát je pre neurónové siete ťažkou úlohou. V nedávnej dobe predstavili Voegtlin & Dominey modifikáciu modelu rekurzívnej autoasociatívnej pamäte (RAAM, Pollack), keď použili lineárne
neuróny a Ojovo pravidlo Hebbovského učenia. Model linear RAAM sa zdá
byť v súčastnosti najsilnejší pre túto úlohu, vzhľadom na jeho obrovskú kapacitu
a jednoduchšie trénovanie. V tejto práci najprv porovnávame vlastné
výsledky s publikovanými (Voegtlin & Dominey, 2005). Potvrdzujeme, že lineárna RAAM má veľkú kapacitu, avšak konečný výsledok je citlivý na počiatočné podmienky. Navyše, iba málo z reprezentovateľných štruktúr je gramaticky správnych. V ďalšej časti skúmame vplyv reprezentácií symbolov na konečné vlastnosti siete. Najviac štruktúr vie sieť reprezentovať, ak použijeme reprezentácie vytvorené na základe charakteristických vlastností slov. Naopak, pri použití reprezentácií popisujúcich kontext je celková chyba rekonštrukcie najmenšia. Navyše, pri použití týchto typov reprezentácií dosahuje lineárna RAAM tretiu úroveň systematickosti podľa klasifikácie Niklassona & van Geldera.
|
---|