Rybnik położony jest na Płaskowyżu Rybnickim będącym częścią Wyżyny Śląskiej, na terenie Górnego Śląska. Najwyższym wzniesieniem jest Góra Grzybówka 291 m n.p.m. Przez miasto przepływają rzeki Ruda i Nacyna oraz kilka potoków. Pod względem geologicznym Rybnik położony jest w Górnośląskim Zagłębiu Węglowym obejmującym cały Rybnicki Okręg Węglowy oraz Górnośląski Okręg Przemysłowy. Miasto graniczy z następującymi powiatami: rybnickim, raciborskim, wodzisławskim, gliwickim, Żory.