Pittsburgh har haft en tung inledning på NHL-säsongen, men mot formstarka Washington kom ett viktigt trendbrott.
Efter ett straffdrama kunde Jake Guentzel fixa pingvinernas första seger.
– Vi har inte startat som vi velat, jag hoppas att vi kan bygga på det här, säger matchvinnaren i Viasats sändning.
Pittsburgh tog ledningen redan efter 19 sekunder, men Washington hämtade upp underläget genom två snabba mål i mitten av den första perioden.
I den andra kunde Pittsburghs Colton Sceviour sätta 2–2 i öppen bur sedan Capitalsmålvakten Ilja Samsonov gett sig ut på en dåligt tajmad utflykt.
