Armas Järnefelt inledde sin kompositörskarriär kring skiftet mellan 1880-tal och 1890-tal då musiken i Finland präglades av nationella strävanden. Också Järnefelt deltog i det nationella projektet att skapa ett särpräglat finskt musikaliskt idiom, men han mottog samtidigt influenser från Wagner och från tidens senromantiska strömningar. En syntes av dessa element kom att utgöra kärnan i hans kompositoriska gärning.

I Järnefelts tidiga produktion ingår ett flertal piano- och kammarmusikverk, bland dem Romansen för violin och piano (1891) som återger stämningar från belle époque, den ofullbordade men på 2000-talet presentabelt kompletterade Sviten i F-dur för violin och piano (1892) samt Tre pianostycken op. 4 (1895). Under 1890-talets lopp flyttade Järnefelt tyngdpunkten i sitt kompositionsarbete till orkestermusik som vid sidan av solosånger och kantater kom att bli ett centralt verksamhetsområde i hans produktion.

Mellan 1892 och 1904 komponerade Järnefelt ett tiotal orkesterverk, bland dem flera verk i större format som den symfoniska dikten Korsholm (1894), Symfonisk fantasi (1895) och Heimathklang (1895) samt sviterna Serenad (1893), Svit för liten orkester (1895) och Svit i Ess-dur (1897). Järnefelt skrev i början av 1890-talet också på en symfoni, men den förblev ofullbordad och kan ha lämnat material till andra verk, närmast till Korsholm och till Symfonisk fantasi. Järnefelts internationellt mest kända verk är två intagande miniatyrer; Preludium – orkestersvitens Svit för liten orkester inledande sats som ofta spelas separat – samt den för violin och orkester tonsatta Berceuse (1894), välkänd även i arrangemang för olika smärre ensembler.

I likhet med de flesta av sin samtids finska kompositörer mottog Järnefelt intryck från Sibelius, men hans stilistiska ideal skilde sig dock klart från dennes. Vid sidan av Sibelius var Järnefelt till sitt tonsättarkynne mera av en lyriker, för vilken svitformade verk i korta satser lämpade sig bättre än symfonisk gestaltning. Även om han ofta bearbetade finsknationellt stoff i sina alster skrev han inte orkesterverk med egentliga Kalevalamotiv. Hans samtida hörde i några tidiga verk influenser från fransk musik, bl.a. från Massenet för vilken han studerade i Paris, därtill satte Tjajkovskijs musik spår i hans produktion. De starkaste internationella impulserna fick han emellertid från Wagners musik. Wagner blev en av ledstjärnorna i hans karriär, vars skapelser han ofta dirigerade som kapellmästare. Tydligast framgår Wagnerinflytandet i Korsholm och i Symfonisk fantasi, och i sinom tid kom de ”nytyska” substanserna i de båda verken att företräda en ny dimension i finländsk konstmusik.

Efter 1900-talets första år avtog Järnefelts komponerande för orkester och föll i skuggan av hans dirigentgärning. Han gjorde för den skull inte avkall på sitt skapande. Kollektionen av solosånger såg fortsättningsvis nya tillskott och som nya genrer tillkom skådespelsmusik och kantater.