Родился 3 октября 1946 года в городе Донецке.
«Я, когда родился, мучился в нищете и голоде, в которых редко кому доводилось. У отца – четыре класса образования, у матери – два. Все детство свое я на глиняном полу провел, а что кушать приходилось, так то одному Богу известно», – вспоминает Рыбак («Обозреватель», 1 мая 2006 г.).
Окончил Донецкий государственный университет по специальности экономист. Учился в Высшей партийной школе при ЦК КПУ. Карьеру начинал в партийных органах. Имеет опыт руководства строительными организациями.
С 1993 по 2002 годы был главой Донецкого горсовета и мэром Донецка.
С 1998 года – народный депутат Украины. Несколько лет назад в Донецке была издана книга – «Мэр милостью божьей».
Был создателем Партии регионального воздействия Трудовая солидарность Украины, которая в 2001 году переименована в Партию регионов.
На выборах 2006 года избран в Верховную Раду по списку Партии регионов (№ 13).
С 4 августа 2004 года – вице-премьер-министр, министр строительства, архитектуры и жилищно-коммунального хозяйства Украины.
Владимир Рыбак говорит, что эту должность ему предложил Виктор Янукович.
В 2006 году в «Топ-100» самых влиятельных людей Украины, которых определяет журнал «Корреспондент», Владимир Рыбак занял 63-ю позицию.
По версии журнала «Фокус», в 2006 году он занял 13-ю позицию в рейтинге влиятельности среди представителей донецкого региона.
На выборах 2007 года избран в Верховную Раду по списку Партии регионов (№ 13).
В 2007 году в «Топ-100» самых влиятельных людей Украины, которых определяет журнал «Корреспондент», Владимир Рыбак занял 47-ю позицию.
В 2007 году в рейтинге журнала «Фокус» «200 самых влиятельных украинцев» занял 60-е место.
С 2010 года - первый заместитель председателя Партии регионов.
На парламентских выборах 2012 года избран в Верховную Раду Украины по списку Партии регионов (№ 10).
13 декабря 2012 года избран председателем Верховной Рады Украины.