郭荣祖出生贫寒,受农民革命运动的影响,追求革命。1929年1月,参加农民自卫队,加入了打土豪、斗地主的行列。同年4月,任赤卫队队长。7月1日,率部参加了白沙关万人暴动,在战斗中不怕牺牲,敢打敢拼,轻伤不下火线,被组织批准火线加入中国共产党。