Руховци съществува като селище отпреди Освобождението. Възниква от създадените на това място плугари за стада с добитък, привлечени от обилната паша. В турски източници се среща като Рухоларе. За названието на селото има две хипотези: едната – от името на първия заселник дядо Рухо от Елена, който при търсене на паша за добитъка си се натъкнал на тази местност, харесала му природата и условията за скотовъдство и решил да се засели тук, а втората е, че е основано в края на XVI век от преселници от Радомирското село Русоларе, между които бил и дядо Рухо. Основният поминък на населението бил скотовъдството и земеделието. Недостатъчната обработваема земя породила гурбетчийското градинарство и дюлгерство в други краища на страната. Развили се занаятчийството и търговията.
В селото е съществувало едно от ранните килийни училища в района. То било открито в 1828 г. и се помещавало в частни къщи, докато в 1857 г. „на хорището“ била построена училищна сграда, но в нея занятия не са водени. На следващата година било построено ново училище в центъра на селото. През 1904 г. е отворено вечерно училище за възрастни, а в 1921 г. първи прогимназиален клас.
Руховци е признато от колиби за село след 1887 г. След Освобождението с присъединените към него махали Кехайовци, Стайковци и Христовци е самостоятелна община.
По време на Руско-турската война 1877-1878 г. селото е опустошено и разграбено
