Zeneszövegek generálása karakteralapú rekurrens neurális hálózatok segítségével
A rekurrens neurális hálók már a 80-as években megjelentek. Ezek olyan szekvenciális modellek, melyek figyelembe veszik a tanulás előző o állapotait a döntéshozatalban. A ma használt rekurrens hálók közül az LSTM, azaz long shot-term memory a legkedveltebb mind közül, mert megoldást talál az RNN-ek...
Elmentve itt :
| Szerző: | |
|---|---|
| További közreműködők: | |
| Dokumentumtípus: | Szakdolgozat |
| Megjelent: |
2018
|
| Kulcsszavak: | gépi tanulás neurális hálók természetesnyelv-feldolgozás rekurrens neurális hálók LSTM |
| Tárgyszavak: | |
| Online Access: | http://diploma.bibl.u-szeged.hu/73248 |
| LEADER | 02944nta a2200289 i 4500 | ||
|---|---|---|---|
| 001 | dipl73248 | ||
| 005 | 20231107195414.0 | ||
| 008 | 190925s2018 hu om 0|| hun d | ||
| 040 | |a SZTE Diploma Repozitórium |b hun | ||
| 041 | |a hun | ||
| 100 | 2 | |a Kis-Szabó Norbert | |
| 245 | 1 | 0 | |a Zeneszövegek generálása karakteralapú rekurrens neurális hálózatok segítségével |h [elektronikus dokumentum] / |c Norbert Kis-Szabó |
| 246 | 1 | 0 | |a Generating lyrics using character-level recurrent neural networks |h [elektronikus dokumentum] |
| 260 | |c 2018 | ||
| 520 | 3 | |a A rekurrens neurális hálók már a 80-as években megjelentek. Ezek olyan szekvenciális modellek, melyek figyelembe veszik a tanulás előző o állapotait a döntéshozatalban. A ma használt rekurrens hálók közül az LSTM, azaz long shot-term memory a legkedveltebb mind közül, mert megoldást talál az RNN-ek egy alapvető problémájára, a gradiensek ˝ drasztikus növekedésére vagy csökkenésére, melyek ellehetetlenítik a hosszútávú tanulást. Ezt a hálótípust alkalmazom dolgozatomban. Dolgozatom célja LSTM rétegekkel létrehozni egy modellt, amely képes megtanulni egy adott előadó zenei stílusát karakterek sorozatát nézve. Pontosabban felteszi magában a kérdést: ha ezt az x hosszú szöveget látom, vajon az előadó mit írna x+1. karakternek? A model létrehozásában a python nyelven elérhető Keras és annak hátterében a TensorFlow keretrendszereket használom. Keras egy API amely elfedi a neurális hálókhoz szükséges matematika nagy részét a fejlesztő elől, így átláthatóbbá téve a kódot, TensorFlow pedig egy eszköz mellyel gépi tanuló szoftvereket könnyedén lehet tanítani gyorsasága miatt, valamint átláthatóvá teszi a fejlesztést a TensorBoard segítségével, mely egy vizualizációs eszköz. Szakdolgozatomban először ismertetem az egyszerű neurális hálókat, működésüket, majd ismertetem a rekurrens hálókat, azok hasznát, és kitérek a problémájukra melyet az LSTM old meg. Ezután ismertetem a Keras keretrendszerét, a TensorFlow működését és ezen belül a TensorBoard-ot. Ezek ismeretében már olvasható a TensorBoard vizualizációja, így megmutatom a tanítások eredményeit. | |
| 650 | 4 | |a Természettudományok | |
| 650 | 4 | |a Natural sciences | |
| 650 | 4 | |a Computer and information sciences | |
| 695 | |a gépi tanulás | ||
| 695 | |a neurális hálók | ||
| 695 | |a természetesnyelv-feldolgozás | ||
| 695 | |a rekurrens neurális hálók | ||
| 695 | |a LSTM | ||
| 700 | 1 | |a Berend Gábor |e ths | |
| 856 | 4 | 0 | |u https://diploma.bibl.u-szeged.hu/id/eprint/73248/1/2018_Kis_Szab%C3%B3_Norbert_R2JPE8_SZ.pdf |z Dokumentum-elérés |
| 856 | 4 | 0 | |u https://diploma.bibl.u-szeged.hu/id/eprint/73248/7/2018_kis_szabo_norbert_biralati_lap.pdf |z Dokumentum-elérés |
| 856 | 4 | 0 | |u https://diploma.bibl.u-szeged.hu/id/eprint/73248/8/2018_kis_szabo_norbert.zip |z Dokumentum-elérés |