Az Erkel Gyula Zeneiskola jogelődje az 1891-ben alapított „Újpesti Zeneművelő Egyesület (Conservatorium)”.

Korabeli feljegyzéseken az alapító tagok között Erkel Gyula, Melles Béla, Szikla Adolf és gróf Zichy Gyula nevét olvashatjuk. Az alakuló közgyűlésen Erkel Gyulát – Erkel Ferenc fiát, korának elismert karmesterét – választották igazgatónak.

1891-ben a zeneoktatás öt tanszakon – zongora, hegedű, gordonka, magánének, cimbalom – kezdődött, helyileg az István tér 9-es számú házban, egy háromszobás lakásban. Az intézménynek ekkor 72 tanulója volt.

1922-ben költözött az iskola az István tér 21-es számú házba. Ez a tanulói és tanári létszám, a szakok számának növekedése a tárgyi feltételek (tantermek, hangszerállomány) fejlesztését, bővítését is jelentette.

A háborús időszakoktól eltekintve az intézmény folyamatosan működött. A politikai és ezt követő gazdasági válságot a tanulói létszám alakulása híven tükrözte.

Az Újpesti Zeneművelő Egyesület évkönyvei őrzik egy-egy évfolyam kiemelkedőbb eseményeit, tanári tanulói névsorát, a Zeneiskola költségvetését. Az iskola működését, fenntartását kezdetben tagdíjakból, községi szubvencióból, az alapító tagok adományaiból, tandíjakból biztosították. A tandíj évi 150-200 pengő körül volt, de a tehetségesebb, szegényebb családból származó diákok tandíjkedvezményt illetve tandíjmentességet kaptak. A kor híresebb művészei hangversenyeik bevételével is támogatták a Zeneiskolát, így válhatott az intézmény Újpest zenei életének központjává.

A korabeli újságcikkek „Felejthetetlen emlék”-ként adtak hírt, azokról a zenei estékről, melyeken 1905-ben Bartók Béla, 1911-ben Székelyhidi Ferenc, 1914-ben Sándor Erzsi, Szendi Árpád, 1921-ben Bartók Béla, 1928-ban Dohnányi Ernő (két alkalommal), 1930-ban pedig ismét Dohnányi Ernő, illetve a Melles Vonósnégyes lépett fel.

Bejegyzett tanulólétszámok az évkönyvek alapján:

• 1915-ben 200 fő (az 1918/19-es tanévtől kezdve a létszám fokozatosan csökkent);
• 1926-ban 146 fő;
• 1931-ben – a zeneiskola fennállásának 50. évfordulóján – 91 tanuló és 9 tanár neve szerepelt a nyilvántartásban.
• 1945 augusztusában (a választmányi ülés idején) 99 tanuló és 5 tanár közreműködésével folytatódott ismét a zeneoktatás.
• 1948 új korszakot jelentett a Zeneiskola fejlődésében. Az intézmény Újpest város felügyelete, irányítása alá került. Döbrentei Károlyné polgármester támogató magatartása nagy lendületet adott a szakmai kibontakozásban. Az István tér 21. sz. ház lakásainak nagy részéből tantermeket alakítottak ki. Új szakok indultak, a hangszerállomány is gyarapodott és a tanulói– tanári létszám is ugrásszerűen növekedett. Életkorban az általános és középiskolás tanulók mellett a felnőtt hallgatók száma is jelentőssé vált.
• Az 1949/50-es tanévben a bejegyzett tanulók száma 700 fő volt.
• 1950 jelentős változást hozott Újpest életében. A várost Budapesthez csatolták, annak IV. kerületeként.
• 1952-ben megalakult a Fővárosi Zeneiskolák Szervezete, amely a működő zeneiskolák szakmai irányítását átvette és fenntartását biztosította. A körzetek kialakításánál az Újpesti Zeneiskola a IV. és XV. kerület zeneoktatásának központjává vált, Fővárosi 8. számú Körzeti Zeneiskola néven. A zeneoktatás a központi épületen kívül a két kerület általános iskoláiban kihelyezett tagozatokon is megkezdődött.
• 1965-ben a tanulói létszám 1300 fő volt.
• 1966-ban volt az iskola fennállásának 75. évfordulója. A névadó ünnepségen az intézmény Bartók Béla nevét vette fel.
• 1968-ban a megszűnt Fővárosi Zeneiskolák Szervezete. A zeneiskola fenntartását, működtetését a IV. kerületi Tanács vette át. A decentralizáció után minden kerület saját zeneiskolát alakított ki, így különvált a IV. és XV. kerület is. A tanulói, tanári létszám a hangszerállomány, a kihelyezett tagozatok száma felére csökkent. Intézményünk új neve Fővárosi IV. kerületi Állami Zeneiskola lett.
• 1970-ben a bejegyzett tanulók száma 624 fő volt.
• Az 1974-es tanévben 629 tanuló tanult az intézményben. A kerületben a lakótelepek építése, a lakosság számának ugrásszerű növekedése a zenét tanulni vágyók számát is jelentősen megemelte. Az igény ellátásnak lehetőségét a kerületi tanács biztosította. Ezekben az években a tanács jelentős összeggel növelte a tárgyi feltételek fejlesztését biztosító költségvetést. Az oktatás új általános iskolákban, különböző kihelyezett tagozatokon folyhatott tovább.
• 1990-ben a tanulói létszám 1022 fő, a tanárok száma 65 fő volt.

Egyedülálló jelenségként az országban megindult az alapfokú jazzoktatás, szakközép- és főiskolai tanárok közreműködésével.

1991-ben ünnepelte a Zeneiskola fennállásának 100. évfordulóját. Az ünnepségsorozat keretében sor került az intézmény első igazgatója, Erkel Gyula nevének felvételére és a névadó márványtáblájának felavatására.

Az elmúlt években klasszikus, jazz és népzene tagozaton történt az oktatás.

2012-ben az önkormányzat átköltöztette az intézményt az Újpesti Művelődési Központ Ifjúsági házának 2. és 3. emeletére az István út 17-19. szám alá. Azóta itt található a zeneiskola székhelye. Tanáraink a székhelyen kívül a kerület 14 iskolájában (mint az intézmény telephelyei) tanítanak.

Az Erkel Gyula Zeneiskola a IV. kerület zenei életének centruma. Több mint egy évszázada tölti be azt a szerepet, amelyet elődeink alapszabályokban határoztak meg „az Egyesület működésének célja és feladatai” címmel.