李伯升是元末明初時，張士誠麾下的名將，雖然史書上沒有記載他具體的出生年月日，但他在張士誠還沒起事的時候，就跟在其身邊了。
在張士誠帶著他的三個弟弟張士義、張士德、張士信，以及另外十四個膽子大的同伴，一起拿著挑鹽的扁擔，去毆打壓榨貧困鹽民的富戶，正式宣佈起義時，李伯升就是這十幾人中的一個，後世的人們將這一事件稱為“十八條扁擔起義”。
作為起義的元勳之一，李伯升自然受到了張士誠的重視，屢屢讓其獨自帶兵打仗，然而從戰績上來看，他的表現卻屬實是不行，尤其是在面對到朱元璋的時候，被其麾下的部將耿炳文、陳德和李文忠等將領反覆打敗。
比如在至正二十一年（也就是公元1361年）時，張士誠派遣了李伯升，帶領十萬大軍，水陸並進直取長興。當時朱元璋的守軍只有耿炳文所率領的七千多人，想要死守住的難度極大，所以耿炳文便趕緊向朱元璋求援。
老朱聞訊後，立馬派遣陳德、華高、費聚等將領率兵赴援，結果卻被耿炳文圍點打援地幹掉了，然而即便這樣，李伯升圍攻了數個月依舊沒能夠將長興給啃下來，直到朱元璋有派遣常遇春前去馳援之後，才成功將李伯升被擊退。
此戰中，表現最為出色的就是耿炳文，他所擁有的只有區區七千的兵力，死守住了長興，成功拖延了好幾個月，使得朱元璋的第二波援兵得以及時到來。
在至正二十三年的時候，李伯升再一次率軍進攻，朱元璋也再度派遣陳德過去馳援，結果這一次，陳德成功地將李伯升擊退。
眼見長興屢屢拿不下來，張士誠便派李伯升於至正二十四年，帶領十六萬軍隊去進攻新城（今浙江諸暨南），結果卻沒能拿下來，到了第二年的時候，不甘心的他又帶著更多的軍隊，再度進攻新城，結果被李文忠打大敗而歸，其本人狼狽到僅以身免。
又一年後，朱元璋命令徐達進攻湖州，輕鬆地將李伯升擊敗，佔領了這座城池，當時張士誠已經日薄西山了，李伯升乾脆就投降了。到了朱元璋建國之後，他本人也得以被封為平章政事兼同知詹事院事，之後他跟著徵南將軍鄧愈去平定廣西少數民族的叛亂，可惜最終因為牽連到胡惟庸案，而慘被誅殺。
