Pierwsze założenie obronne w Chudowie zostało zbudowane w połowie XV wieku przez Jakuba Chudowskiego. Była to drewniana wieża mieszkalna otoczona wokół palisadą. Drewniany gród w Chudowie został spalony około roku 1473 w czasie walk pomiędzy księciem rybnickim Wacławem III a koalicją pozostałych książąt górnośląskich. Walki pomiędzy książętami górnośląskimi toczyły się na kanwie sporu pomiędzy królami Maciejem Korwinem a Władysławem Jagiellończykiem o tron czeski. Zamek został odbudowany w postaci obecnie stojącej kamienno-ceglanej wieży mieszkalnej, do której w latach późniejszych dobudowywano najpierw skrzydło wschodnie i północne, a następnie zachodnie. W kolejnych latach zamek podlegał licznym przebudowom. Ostatecznie spalił się 11 stycznia 1875 roku. Schaffgotschowie ówcześni właściciele postanowili zamku nie odbudowywać I poprzez liczne wyburzenia urządzono na opróżnionym dziedzińcu pawilon z estradą, na której urządzano koncerty dla mieszkańców miejscowości.
Pierwszymi właścicielami zamku do roku 1520 i jego budowniczymi była rodzina Chudowskich, następnie zamek przeszedł w ręce rodziny Gierałtowskich władającej zamkiem do roku 1622. W latach około 1630 do roku 1669 zamek był własnością Jana Skalla znanego z licznych sporów finansowych z bliższymi i dalszymi sąsiadami. Następnie zamek należał do rodziny von Oppersdorf oraz w latach 1675-1691 do rodziny Welczków. Od 1706 do 1772 roku na zamku zamieszkiwał czeski ród Foglarów. W kolejnych latach zamek często zmieniał właścicieli. W roku 1837 dobra zamkowe kupił Aleksander von Bally prowadzący szereg przedsięwzięć gospodarczych, między innymi był właścicielem kopalni Victor w Załężu. Von Bally przebudował zamek rozbudowując go o nieistniejące obecnie skrzydło północne (w sąsiedztwie baru Tekla). Odnalezione szczątki jego siostry Antonii oraz jego dwóch małych dzieci spoczywają obecnie we wnęce murów zamkowych od strony dziedzińca. W roku 1850 dobra chudowskie nabyła Joanna Grycik - spadkobierczyni majątku Karola Goduli, a w roku 1861 wskutek małżeństwa stał się własnością Hansa Ulryka Schaffgotscha. Od roku 1945 zamek był w posiadaniu Zakładów Mięsnych w Rybniku, a od roku 1999 jest własnością Fundacji „Zamek Chudów", która w latach 2002-2003 przeprowadziła prace konserwatorsko-remontowe.
Zamek w Chudowie zbudowany jest na planie zbliżonym do kwadratu o wymiarach 30 x 28 m. W środku założenia znajdował się czworoboczny dziedziniec z centralnie usytuowaną studnią i otoczony drewnianymi krużgankami. W południowo-zachodniej części zamku wznosi się czworoboczna wieża o wymiarach 8,5 x 11 m. Główny budynek mieszkalny wzniesiono po północno-wschodniej stronie zamku (na prawo od wyjścia z wieży). W XIX wieku zamek rozbudowano o budynek położony po stronie północno-zachodniej. Budynek ten obecnie nie istnieje, jego mury stanowią obecnie część baru gastronomicznego „Przy Tekli".