Koszta József kezdetben a bécsi akadémián, majd Budapesten – a Mintarajziskolában és Benczúr mesteriskolájában – végezte tanulmányait, ahol Lotz Károly és Székely Bertalan növendéke volt. 1891-ben ösztöndíjasként Münchenben képezte magát; 1900-ban a francia fővárosban Mention Honorable-t nyert.
1899 és 1902 között Rómában, Párizsban és Nagybányán is dolgozott. Első sikereit realista ízű képeivel aratta, de az 1900-as évek elején ecsetkezelése oldottabbá, koloritja fénnyel telítettebbé vált. 1905-ben Fraknói-ösztöndíjat kapott, így újra európai tanulmányútra indulhatott. Sajátos formanyelve az 1910-es években alakult ki, ekkor már Szolnok környékén, majd a szentesi tanyavilágban élt.
A plein air festészet oldottabb szín- és formakezelését elhagyva művészetét a paraszti témák, az alföldi táj drámai ábrázolása, az erős fény-árnyék hatásokra épített, felfokozott színvilág, valamint az expresszív, realista formaadás jellemezte.
Az 1920-as évektől kezdve munkái szinte minden külföldön rendezett, jelentősebb kiállításon szerepeltek, és sajtos nemzeti karakterükkel nagy sikert arattak. 1937-ben a Szinyei Társaság tiszteletbeli tagjává választotta. Emlékét a nevét viselő múzeum őrzi Szentesen