单处罚金行政机关会给予开除公职处分。罚金属于附加刑的一种，属于财产刑，可以和主刑并行适用，也可以适用。相关法律规定，行政机关公务员依法被判处刑罚的，给予开除处分。
《行政机关公务员处分条例》第十七条违法违纪的行政机关公务员在行政机关对其作出处分决定前，已经依法被判处刑罚、罢免、免职或者已经辞去领导职务，依法应当给予处分的，由行政机关根据其违法违纪事实，给予处分。行政机关公务员依法被判处刑罚的，给予开除处分。
