Cao Bá Quát có tài học mà chẳng được dùng, quan tỉnh Bắc Ninh thấy thế liền mật tấu về Kinh, nên năm 1841, ông được sung chức Hành tẩu bộ Lễ.
Nhân gặp khoa thi Hương, ông được cữ đi làm sơ khảo trường Thừa Thiên. Trong khi chấm văn, ông thấy có một quyển văn hay mà viết phạm một chữ húy; chữ ấy đáng lẽ phải bớt nét (tỉnh hoạch) mà thí sinh lại sơ suất không bớt. Đúng phép thì quyển văn dù hay đến đâu mà đã viết phải một chữ phạm vào quốc húy là phải đánh bỏ, nếu phạm vào trọng húy thì lại còn phải tội là khác, ông Quát vốn là người phóng đạt nên ông cho rằng những luật lệ ấy là quá khắc nghiệt của trường qui loại bỏ. Vì lòng thương tài, trong tâm trí ông bổng nảy ra ý nghĩ rằng phải sửa hộ để cứu quyển văn có giá trị này. Nhưng khốn thay ở chốn quan trường chỉ có mực son chứ không có bút mực xạ thì làm sao chữa hộ cho được? Ngừng một lát rồi ông lấy một mảnh giấy, hơ lên trên ngọn đèn để lấy muội khói, rồi gợt sạch bút son, dầm quện vào cái muội ấy thay làm mực để chữa. Đoạn, ông cứ cho điểm vào quyển ấy để láy như thường, nhưng sau đó người ta phát hiện ra việc sửa bài này. Người được Cao Bá Quát cứu ấy là Phạm Gia Hanh. Ông Quát bị cách chức và phát phôi đi Đà Nẵng.
Theo Đại Nam liệt truyện của Quốc sử quán triều Nguyễn thì không phải ông Quát sửa một quyển mà chính ông cùng với bạn đồng sự là Phan Nhạ đã dùng muôi đèn chữa những 24 quyển văn, trong đó có 5 quyển được đỗ. Việc vỡ lở, quan giám sát Trường thi là Hồ Trọng Tuấn dàn hặc, ông Quát bị ghép vào tội tử hình. Vua Thiệu Trị là người sính văn chương đã có sẵn cảm tình với ông Quát nên nhà vua đã gia ân giảm án cho ông thành "giam để chờ xử giảo". Nhưng sau ông Quát được ân xá và khởi dụng trở lại.