刘墉为大学士刘统勋之子。于乾隆十六年(1751年)中二甲第二名进士，改翰林院庶吉士，散馆授编修，再迁侍讲。乾隆二十年(1755年)，刘统勋获罪，刘墉也被夺官下狱。
不久，其事解决，又赏编修，出督安徽学政，改任江苏学政。乾隆二十七年(1762年)，任山西太原府知府，因失察下属“侵帑”，被发往军台效力。年余被放还，受命在修书处行走。不久，因受其父恩泽，仍以知府用，知江苏江宁府，任内有清名。次年升江西盐驿道，乾隆三十七年(1772年)迁陕西按察使。次年，其父统勋病卒，因丁忧去职。
乾隆四十一年(1776年)刘墉守丧结束后，被授予内阁学士，在南书房行走。逾年调江苏学政。乾隆四十三年(1778年)八月，江苏省东台县监生蔡嘉树唆使如皋县民童志璘向刘墉告发已故的江苏东台县举人徐述夔生前的作品集中有“大明天子重相见，且把壶儿搁半边”，“明朝期振翮，一举到清都”的诗句，当时徐述夔和其子徐怀祖皆已故物，仍被开棺戮尸，孙子徐食田、徐食书、徐首发被处斩。为徐诗作序的已死礼部尚书沈德潜，也被戮尸。历迁户部、吏部侍郎。乾隆四十五年(1780年)，任湖南巡抚，次年迁左都御史，仍直南书房。乾隆四十七年(1782年)奉命与尚书和珅和钱沣前往山东查办巡抚国泰贪污及纵容下属之事，查访案情有功，被授予工部尚书，充上书房总师傅。乾隆四十八年(1783年)，署直隶总督，两年后被授职协办大学士。乾隆五十四年(1789年)，因“诸皇子师傅久不入书房”而被降为侍郎衔。不久，授内阁学士，历升顺天学政、礼部左侍郎、都察院左都御史，乾隆五十六年(1791年)任礼部尚书，署吏部尚书，不久实授。嘉庆二年(1797年)，授体仁阁大学士。嘉庆四年，加封太子少保。
嘉庆九年十二月二十五日(1805年)，刘墉在北京病逝，当天还到南书房当值，晚上宴会客人，“至晚端坐而逝”。享年八十五岁。朝廷追赠太子太保，祀贤良祠，谥文清。
相传刘墉有驼背，所以他在民间有个外号叫作刘罗锅，但并不符合史实。嘉庆帝曾称刘墉为“刘驼子”，刘墉当时是八十多岁的老人。
刘墉擅书法，工书，尤长小楷，其书用墨厚重，貌丰骨劲，别具风貌，为清一代书法家，也兼及颜真卿及苏轼。其书法最初从元代赵孟頫入手，至中年方自成一家，以魏晋为师，笔意古厚。与铁保、翁方纲、成亲王并称为清代四大书法家。
刘墉书写杜甫诗句之手卷时，书于水红色、钩金花的纸张上，十分别致。起始的一首诗题名为〈缚鸡行〉，叙述小仆绑着鸡要到市中去卖，引起了诗人对人、鸡、虫三者间的一些感概，内容颇有意趣。至于在书法方面，圆润婉转的字体，看似柔软无骨，实际上却是将劲道隐藏于丰厚的外貌中，相当的内敛，前人评论刘墉的书法为棉里藏针，应即此意了。
七十岁以后则专心于北朝的石碑书法。他的书法，用墨厚重，墨色浓墨丰润，但是骨架结构则非常刚劲，结合了柔与刚的两面，别具特色。