1934年1月，德國陸軍武器組提出了「三號坦克做為主力，四號坦克做為支援的裝甲戰鬥群」的作戰構想，其中兩種坦克的結構大致上相同，皆擁有五名乘組員和無線電方便通訊，並將重量控制在24噸左右，它們的差別主要是在主炮方面。但由於凡爾賽條約中規定德國不能擁有坦克，所以四號坦克的最初開發代號是「中型拖拉機」，主要設計是作為支援步兵，並與三號坦克協同作戰，所以搭載的是炮管較短但口徑較大的坦克炮，主要彈種為高爆彈。
參與四號坦克的開發的廠商共有克虜伯 、萊茵金屬 、奧格斯堡‧紐倫堡機械工廠股份公司三家公司。經過兩年的測試後，德國軍方於1936年選擇了克虜伯）的方案， 1937年10月開始量產四號坦克。在設計過程中，四號坦克內部留下了許多未使用的空間，這對之後在改良、升級等的影響非常大，而原定計劃中，懸吊系統是使用扭力杆承載系統，以提高乘坐的舒適性，但之後由於對於四號坦克有迫切的需求，只好改為技術上較為成熟的彈簧懸吊系統。
隨著戰事的發展，四號坦克也逐漸改良，總計分為A、B、C、D、E、F1、F2、G、H、J等10種型號，還有其他以四號坦克的為基礎做直接改造（例：四號潛水坦克、指揮坦克、觀察坦克，但此種類的數量較少。），或僅使用了底盤，製造出的各種衍生車輛（例如：四號驅逐坦克、四號突擊炮、四號防空坦克、四號架橋坦克等，種類與數量都相當的繁多。），根據統計，四號坦克是二戰中變化最多的車款。
在眾多型號中，A型到C型為試驗車種，並未大量生產，主要是作為培訓裝甲兵或訓練維修人員。從D型之後才開始大量生產，到F1型之前，都是裝備24倍徑75mm坦克炮，主要的變化是在於裝甲的增加，F1型為了東部戰線而更換了更寬的履帶。但到1941年巴巴羅薩作戰時，德軍發現短炮管不足以擊毀KV-1、T-34等強力的蘇聯坦克。雖然原本在巴巴羅薩作戰前，有計劃要將主炮更換為50mm Pak 38 L/60的修改型，但之後放棄，在一番波折後，決定更換為75mm Kwk 40 L/43，並將型號改為四號F2型。
當1942年開始生產四號坦克G型後，它正式取代了三號坦克作為德軍裝甲部隊的主力，在G型上，可以見到許多為了簡化生產程式和增加防護力所做的改變，主炮也更換為炮管更長的75mm Kwk 40 L/48。到了1943年，德軍原本打算停止四號坦克的生產，將生產力全力投入在五號坦克豹式上，但當時位居裝甲兵總監的古德林大加反對，他認為此舉將使德軍有一天會毫無坦克可用，軍方接受了他的建議，但在爭論的四個月中，卻大大影響了工廠的生產。同年四月，德軍開始生產四號H型，除了將附加裝甲統一為80mm外，還增加了抗磁性塗層、5mm的車身裙甲和8mm的炮塔裙甲，但卻因此使車身重量增加至25噸，並影響了四號坦克的機動性。
但隨著戰事的演變，德軍在各戰線處於不利的狀態，為了再次加快產量，德軍開發出了
四號坦克J型
，其最大改變是將炮塔迴轉發動機拆除，並改為手動式，原本發動機的位置則做為燃料輔助槽，使續航力增加至320公里，並移除炮塔上的觀測口及手槍射擊口，車身的裙甲更換為鐵網，並取消了抗磁性塗層 ，消音器也遭到廢除，而履帶的回輪也從四個減少至三個。在J型之後，雖然德軍曾經嘗試將豹式的炮塔連同主炮，一起安裝在四號坦克的底盤上，但之後卻以失敗告終。
從四號坦克在戰場的整體狀況而言，它的火力、防護力、機動性在二戰後期雖然比不上虎式、豹式等動物園系列的坦克，設計也較為老舊，但他在戰場上的可靠度卻大於上述的車款，從德軍裝甲兵賦予它「軍馬」一詞，就可以見到士兵們對它的信賴程度。在維修方面，比起虎式，維修人員們反而比較樂於見到四號坦克，畢竟虎式不論是在耗費的時間與體力上，都會遠大於四號坦克，同時，四號坦克也是德國在二戰中產量最大的坦克，共計8，525輛（但它並不是德國產量最多的裝甲車輛，最多的是三號突擊炮，總計生產約10，500輛。）
四號坦克的發展史，可以說是代表著德軍裝甲部隊在二戰中的歷程，它在戰前就被開發出來並量產，並參與了歐洲戰線、北非戰線、東部戰線的各大戰役，但它的身影並未隨著納粹德國的滅亡而消失在戰場上。1965年，敘利亞將從法國獲得數輛四號坦克並進行一些修改，但在之後在與以色列軍的百夫長坦克的戰鬥中被擊毀。還有在1967年的第三次中東戰爭中，敘利亞也曾使用從西班牙購得的17輛四號坦克。
