Он родился 1 августа 1962 года в городе Алма-Ате Республики Казахстан. Окончил Смоленский филиал Московского энергетического института.
С 1985 года работал мастером энергослужбы в Днепровском машиностроительном институте, а затем стал мастером первой группы на Смоленском автоагрегатном заводе.
С 2001 года Олег Рыбалко занимал различные должности в ФГУ «Управление государственного энергетического надзора по Западному региону».
С 2005 до 2008 года был начальником Северного межрайонного отдела по надзору в электроэнергетике, заместителем начальника Западного межрайонного отдела по надзору в электроэнергетике, заместителем руководителя Управления по технологическому и экологическому надзору Федеральной службы по экологическому, технологическому и атомному надзору по Смоленской области.
До 2011 года был и.о. начальника, а затем начальником департамента Смоленской области по энергетике, энергоэффективности и тарифной политике.
В мае 2011 года Олега Рыбалко назначили первым заместителем начальника департамента Смоленской области по энергетике, энергоэффективности, тарифной политике и промышленности. В августе 2012 года после реорганизации органа исполнительной власти Рыбалко вновь возглавил департамент Смоленской области по энергетике, энергоэффективности, тарифной политике.