西汉时期就发明了纸张，当时的纸张质量较差，不能用于书写，到了西汉后期，纸张的质量才有提高。而蔡伦正是在此造纸术的基础上，对原材料、工艺进行了改进，制造出了质量很高的纸，特别是蔡伦扩大了造纸的原料，而且为以后广用各种植物纤维造纸提供了条件。
东汉蔡伦开始造纸。据《后汉书》有记载，汉和帝元兴元年（公元105年），蔡伦“乃造意用树肤、麻头及蔽布、鱼网以为纸”，献给皇帝，受到嘉奖，“自是莫不从用焉，故天下咸称‘蔡侯纸’”。这是史籍关于发明造纸术的记载，也是历来认定纸在东汉时由蔡伦发明的惟一文献记载。
一日，蔡伦正在龙亭的官邸中看书，不远处的人家传出咚咚咚的响声，吵得他无伦如何也读不下去了。蔡伦心烦，索性玻出书房，寻声而去。此时，他发现，原来是一个丫头在以石臼舂米。丫头告诉蔡伦，主人家要让她今日必须舂好一斗米，一斗米！谷子要变白米可不那么容易，怪不得，这舂石臼的咚咚声从早晨响过了晌午还停不住呢。蔡伦蹲下身子，抓了一把白米，似乎悟到了什么，便放下白米又赶忙抓了一把米糠，用手指在掌心刨了刨，顿时喜形于色：我们为什么不能把构树皮也变成米糠一样的模样呢？想到这里便三步并作两步来到龙亭大龙河边的抄纸作坊，让工匠到村子里找来石臼，当下做起实验来。
蔡伦把经过除杂切碎的构皮放到大石臼内经过一段时间的猛捣，加水和匀后浇成纸片，再看那湿纸片显得非常均匀。他耐着性子等着纸片变干，但哪里等得及？便笼起木炭烘烤。待蔡伦从帘框上揭下纸片来，看到这张纸片轻薄，均匀，光滑，又用笔蘸了墨在上面写了几个大字，觉得运笔很流畅。蔡伦发明的用石臼捣纸浆的方法，使蔡伦造纸术更加精细有效了。
