清朝的张廷玉是安徽桐城人，他素来注重修身养性，颇得他人尊重。同时他也非常孝敬父母，在朝廷任宰相时，他把母亲安顿在家乡，并经常回家探望。
一次，张廷玉回家看望母亲时，觉的家中的房屋呈现出破败之象，就命令下人起屋造房。安排好一切后，他又回到了京城。
他家的邻居是一位姓叶的侍郎，也打算扩建房屋，并想利用两家中间的一块地方。张家也想利用那块地方做回廊，于是两家争执起来。张家开始挖地基时，叶家就派人在后面用土填上；叶家打算动工，拿尺子去量那块地，张家就一哄而上把工具夺走。两家争吵多次，几次险些动武，双方互不相让。
张母一怒之下，给张廷玉写信，让他赶快回来处理此事。张廷玉看罢来信，不急不躁，提笔写下一首短诗：“千里家书只为墙，再让三尺又何妨？万里长城今犹在，不见当年秦始皇。”封好后派人迅速送回家。
张母满以为儿子会回来为自己撑腰，没想到只盼回一封家书。张母看完信后，顿时恍然大悟：为了三尺地既伤了两家的和气，又气坏了自己的身体，实在是不值。张母立即主动把墙退后三尺。邻居见状，深感惭愧，也把墙让后三尺，并且登门道歉。这样一来，以前两家争夺的三尺地反而成了一条六尺宽的巷子。
当地人纷纷传颂这件事，引为美谈，并且给这条巷子取了一个特别的名字：六尺巷。有人还据此作了一首打油诗：“争一争，行不通；让一让，六尺巷。”