A földművelésügyi miniszterként a posztján maradó, bal- és jobboldalon is elismert, 62 éves Gráf József 1970-ben lépett be az MSZMP-be, később pedig az MSZP-nek is alapító tagja volt. 2006-ban országos listáról bejutott az Országgyűlésbe, de az alakuló ülés előtt lemondott mandátumáról egyik párttársa javára.
A rendszerváltást követően többek között az Egri Agrober Kft.-t, a Szigetvári Agrokémiai Kft-t., a Baranya Gabona Kereskedelmi Kft.-t és a Déldunántúli Gabonaipari Rt.-t felügyelte. 2004-ben a negyedrészben Gráf tulajdonában álló Szabadszentkirályi Mg. Rt. 10 százalékban birtokolt cége, az Invest-Group Bóly Rt. privatizálta az ország egyik jelentős mezőgazdasági vállalkozását, a Bóly Rt.-t.
2005-ben Gyurcsány Ferenc kinevezte földművelésügyi és vidékfejlesztési miniszterré, ezért lemondott a szabadszentkirályi mezőgazdasági rt.-ben betöltött elnöki posztjáról és a szigetvári önkormányzati képviselői pozíciójáról, és a kisebbségi kormány megalakulása után is miniszter maradt.