Năm Ðinh Hợi (1407) tháng bảy, sau khi chiếm được nước ta, Trương Phụ sai bọn Liễu Thăng, Lỗ Lân giải cha con Hồ Quý Ly và gia quyến, tướng tá về Kim Lăng (Nam Kinh). Cha ông là Nguyễn Phi Khanh làm chức Tự Khanh cũng bị bắt đem đi chuyến ấy. Ông và em là Nguyễn Phi Hùng lẽo đẽo đưa cha đến ải Pha Luỹ (Hữu nghị quan), khóc lóc xin theo chân để phụng dưỡng. Nguyễn Phi Khanh vẫy tay gọi Nguyễn Trãi, ứa nước mắt nói:
- Con là người có học, có tài nên tìm cách rửa nhục cho nước, trả thù cho cha, như thế mới là đại hiếu. Lọ là cứ phải theo cha khóc lóc mới là có hiếu sao!
Nguyễn Trãi nghe rồi lạy hai lạy xin vâng lời.
Về đến Ðông Quan, quân Minh biết Nguyễn Trãi từng là triều quan của Hồ Quý Ly bèn bắt điệu đến Án sát ty. Viên Thượng thư Hoàng Phúc coi cả Ðô ty và Án sát ty đang nghị bàn công việc với viên Tổng binh Trương Phụ. Thấy lính giải Nguyễn Trãi đến trước mặt, Trương Phụ giật mình, liền ghé tai Hoàng Phúc nói nhỏ:
- Tên này mặt mũi khôi ngô rõ ra người có tài đức, văn hay học rộng, am hiểu thư toán. Gân sức nó cứng rắn, chí nó không phải nhỏ, nếu không sớm trừ đi, sau này tất sẽ là mối họa khôn lường.
Ðoạn, thét quân lôi ra chém. Hoàng Phúc cả cười, nhìn Nguyễn Trãi rồi bảo với Trương Phụ rằng:
- Một tên học trò trói gà không chặt thế kia sao có thể là mối lo của nước được! Tổng binh quá lo xa. Nay Giao Chỉ mới nhập vào bản đồ, việc phủ dụ chiêu an để yên lòng dân man là việc trọng. Tha tội chết cho nó, giam lỏng ở Ðông Quan, lấy danh lợi quan tước và vỗ về chiêu dụ là kế hay hơn cả. Sau này, nếu nó không chịu qui phục, lại theo đảng nghịch, bấy giờ lấy pháp luật mà trị tội cũng chưa muộn.
Trương Phụ cực chẳng đã đành nghe theo. Hoàng Phúc thả Nguyễn Trãi ra, cho ở góc Nam bên ngoài thành Ðông Quan. Ông dựng một túp lều tranh bên cái ao nhỏ. Nhà lều một căn tuềnh toàng, đạm bạc, chó không cần nuôi, người hầu không có. Ông sống như thế ngót chục năm trời. Quân Minh năm lần bảy lượt đem tiền bạc, quan tước rất hậu đến nhử, ông đều ôn tồn từ chối. Bấy giờ, ông có thơ rằng:
“Góc thành Nam, lều một gian
No nước uống, thiếu cơm ăn …”
Ðông Quan là đất xung yếu của giặc ở Ðại Việt. Lòng dạ ý đồ giặc thế nào, giặc xử sự động tĩnh ra sao đều ở đây mà ra. Ðông Quan cũng là nơi phơi bày rõ nhất mọi điều rông rỡ bạo ngược của giặc, cũng như moi gan ruột dân tình chốn kinh sư. Chỗ mạnh chỗ yếu của giặc đều ở trong con mắt lỗ tai của Nguyễn Trãi. Ông ngày đêm ngẫm nghĩ suy xét và bí mật viết sẵn phương lược, gọi là “ Bình Ngô sách".
Biết Nguyễn Trãi không chịu nhận chức nguỵ quan, cũng chẳng phải là người phẫn chí ngã lòng đi ở ẩn như Bùi Úng Ðẩu, Lý Tử Cấu, mà ngấm ngầm nuôi chí lớn, Hoàng Phúc luôn miệng dặn bọn thủ hạ phải canh chừng:
- Trãi không phải người tầm thường. Lỡ ra để sống, sau này tai vạ tất không thể tránh khỏi! "