蔡倫在朝中擔任郎中，官大權大勢也大，同僚們都有幾分懼怕他，就連皇上和娘娘也不敢輕視他。為什麼呢？因為他為人正直、公正，敢於硬碰硬，不怕得罪人。若說到對待百姓，他可是一位大好人，從不依仗官勢欺壓他人，還經常微服私訪，救濟貧困、幫助危難，行善積德。
那時，紙尚未發明，公文案件都寫在竹簡上，他每天辦公需翻閱數百斤重的竹簡，簡直累得不堪負重。由自身的辛勞，他想到許多人的辛苦；由眾人的勞累，他又想到國家的利益。於是，他給自己立下一個任務：要造出一種輕便、便宜且易於保存的書寫材料。
說起來容易，做起來卻比登天還難。這根本是前所未有的事，該從何處著手呢？他苦思冥想，仍毫無頭緒。有一天，他看見一位老翁剝取樺樹皮，發現裡面一層層的薄樹皮光滑輕巧，便撿了幾片，反覆觀察，越看越覺得是書寫的好材料。於是他把這些樺樹皮帶回家中，研墨提筆，寫了幾行大字。過了幾天，樹皮乾燥後表面皺巴巴的，就像七八十歲老人額頭上的皺紋，有些字跡也因此變形。他生氣地將樹皮扔進柴堆裡去了。
然而，他並未灰心，仍持續尋找書寫的材料。他為這件事究竟費了多少心思，走了多少路，誰也說不清楚，只有他的好友張紙察覺到一些異狀：他的衣帶漸漸寬鬆了，話語越來越少，很少閒聊，總是凝神思索什麼。張紙問他，他只是微笑，並未多言。
這年春天，張紙回家為父親慶祝七十大壽，蔡倫也前往祝賀。張紙家住白水淮溝河，交通不便，山路崎嶇難行。蔡倫為朋友肝膽相照，不辭辛勞，深受張家父子歡迎。祝壽完畢，蔡倫從住宿處走出，獨自一人到村外遊玩，走到一個水池旁，看見一群小孩從池中掏出濃稠的漿狀物，攤放在破席片上曝曬，曬乾後揭下來玩耍。他問孩子們玩的是什麼東西，他們回答說是「棉花皮」。這名字真奇怪，蔡倫聽都沒聽過。於是他向孩子手中拿來棉花皮，左看右看，反覆端詳，看得入神，嘴裡還喃喃自語。看了很久，他又向孩子們要了幾片，急忙匆匆往回走。回到住處後，立刻研墨潤筆，在棉花皮上唰唰唰地寫起大字來。寫著寫著，忽然大笑起來：「我找到了！我找到了！」侍衛嚇了一跳，以為蔡大人犯了什麼邪症，急忙圍過來問長問短。問明白後才知道，原來蔡大人是因找到理想的書寫材料而欣喜若狂。大家剛放寬心，只見蔡大人又向外跑去，來到孩子們玩耍的池子邊。蔡倫站定腳步，仔細查看池中的漿質，看了很久仍不得其解，便向村民打聽。村民說，這個池子原是個死水潭，本來用來飲牛，後來有人把彈棉花後剩下的爛棉花扔進去，人們嫌髒，不再來飲牛，結果大家就把爛鞋、臭襪子、繩頭、爛皮片等垃圾都往裡扔。時間久了，水便變成像漿糊一樣的黏稠狀。小孩掏出來曬乾玩耍，大人也不知那叫什麼。蔡倫聽罷，心中暗暗打定主意，便命侍衛把池中的漿質全部取出，曬成最薄的片狀，再裁成方形，疊成一疊，帶回府中。
第二天，他稟告皇上，已找到最好的書寫材料，並將帶回的紙片呈送皇上試用。皇上試用後，大加讚賞，並鼓勵他繼續試製。
他依照村民所說的方法，將棉織品放入自己挖好的池子中，用水浸泡。這些棉織品不知怎麼搞的，好幾個月都未能變成漿狀。他急得用木棍攪拌，用椽子搗碎，攪了好幾個月，搗了好幾個月，終於使棉織品化成了糊狀。他再像先前一樣晾曬，終於又製得了好幾沓薄薄的棉花皮片。為了紀念在張紙故鄉的這一發現，蔡倫將這些棉花皮片命名為「紙」，每一片稱為「一張」。從此，世上才有了「紙」這個名稱。
然而，初次試製出的紙非常粗糙，也不夠柔軟光滑，這又成了蔡倫心中的疙瘩。於是他上表奏請辭職，專心致力於造紙試驗。皇上不准。蔡倫再次上表，陳述自己做官只能造福一代君臣百姓，但造紙卻能利益百代子孫，懇請皇上准許。皇上不捨這樣忠心耿耿的好官，仍然不准。蔡倫第三次上表，表示造紙成功後，仍願重返朝廷，繼續為君王效力。皇上見蔡倫意志堅決，含淚批准了他的請求。
蔡倫辭職後，立即前往白水淮溝河，聘請幾位幫手，日夜不停造紙，造出的紙果然越來越精良。蔡倫的名聲也日益響亮。買紙的人絡繹不絕，儘管蔡倫等人日夜苦幹，仍無法滿足需求。他見此情景，便讓幫手各自開設造紙廠，培養徒弟，使更多人掌握這項技術。
後來，皇上召蔡倫回朝復職，蔡倫再次上表推辭。皇上無奈，只好讓他長期住在民間專心造紙。後來蔡倫享盡天年，最終逝世於淮溝河。村民為他舉行了極其隆重的葬禮，還為他修建廟宇，立碑紀念。這塊碑後來不知怎的被搬到馬家寨的大路邊，直到解放後仍在原地，至今卻不知被何人搬走。至於他當年造紙用的池子，至今仍存於淮溝河。
也有人說，蔡倫被玉皇大帝召至天宮，在天宮開設了一座龐大的造紙廠，聲名遠播。玉皇大帝擔心他的名聲蓋過自己，幾百年後便將他貶降至西方凡間，讓他去那裡造紙。因此，西方的造紙術比中國晚了數百年。