少年時期的來俊臣是一個無業遊民，整天無所事事，有一次來俊臣因犯奸盜罪鋃鐺入獄。在監獄裡面來俊臣喜歡胡亂地揭發別人，一些有影沒影的事，來俊臣都會告訴獄吏。雖然他告發了很多事，但是大都是捕風逐影，查無實據的。但是來俊臣還是一如既往的向獄吏告密，久而久之，獄吏都被激怒了，把來俊臣痛打一頓，這時，來俊臣才變得老實起來。
不久後杖大來俊臣的獄吏被誅殺，來俊臣又開始寫告密信，說自己是因為揭發別人才被獄吏杖打。武則天認為來俊臣很忠誠，於是給他封了官職。
在他審理案件時，但凡讓他不滿意的人，都會被牽連，他前前後後誅殺了千餘家。
兩年後，來俊臣升為御史中丞，滿朝大臣不敢大喘氣，更不敢相互交談，走在路上也只是以目示意，不敢說話。他和侯思止等人召集幾百個無賴，專門誣告別人。
武則天在麗景門設了監獄，凡是入了麗景門的人，一百個人中都活不了一個。
來俊臣審理罪犯時，不管犯的是什麼罪，先用醋灌鼻，然後打入囚牢。或者把犯人放入甕中用火燒烤。他不給犯人吃飯，甚至有的犯人餓的只能抽衣絮充飢。他還在犯人睡覺的地方放一些糞穢，備一些毒藥，倘若不是死了，根本別想從監獄出去。當有赦令時，來俊臣都會先把犯人全部殺掉，然後再宣讀赦令。
來俊臣製造了一個有十種型號的大枷，一曰定百脈，二曰喘不得氣，三曰突地吼，四 曰著即承，五曰失魂膽，六曰實同反，七曰反是實，八曰死豬愁，九曰求即死，十曰求破家。犯人無論身份貴賤，事先都會把枷鎖擺在地上，告訴犯人這就是刑具，看到刑具的犯人都會嚇得魂飛魄散。
來俊臣曾因為貪汙受賄被貶同州，他在那裡搶奪了一位同僚的妻子，並侮辱同僚的母親，見著都是敢怒不敢言。
來俊臣屢犯貪贓罪，被貶到同州任參軍，在那裡他曾強奪一個參軍同僚的妻子，並汙辱了他的母親，也沒有敢說話的。
來俊臣貪求美色，凡是官民有妻子漂亮的，他都不會放過。除了宰相，他登記姓名按順序搶奪別人的妻妾。
來俊臣和衛遂忠交情不錯，有一天來俊臣在家設宴聚會。衛遂忠喝醉了，到來俊臣家裡去，於是門人便告訴他主人不在家，衛遂忠根本不聽，就闖了進去，把來俊臣罵了一頓。來俊臣感覺顏面盡失，於是把衛遂忠綁起來打了一頓，從此之後兩人便結下仇恨。
有一次，來俊臣想誣告武氏諸王和太平公主，結果被衛遂忠告發了。於是，來俊臣被關進監獄，並被判處死刑。武則天想赦免來俊臣，所以一直沒有批處死來俊臣的奏章。
王級善上奏說：“來俊臣一向兇殘狡猾，貪婪無度，是一個十足的大惡人，如果不除掉他，日後，他必然禍亂朝廷。”
有一天，武則天在遊覽園林時，吉頊也曾說道：“來俊臣不但為非作歹，誣陷好人，而且貪汙受賄，被他冤死的無數，他是一個危害朝廷的壞人。”於是，武則天才批准處死來俊臣。
不久後，武則天將來俊臣斬首示眾，男女老少出於對他的憎恨，都爭相去剮來俊臣的肉，很快來俊臣被剮得絲毫不剩。武則天聽說百姓如此憎恨來俊臣，於是下令誅殺來俊臣家族。來俊臣被處死後，百姓們在街上相互慶賀。
