陶侃打败苏峻之后，功勋显赫，威信极高，朝廷升他为太尉。不久，又提升为大将军，规定他：上朝不用拜皇帝。
陶侃为人谦虚谨慎，坚决推辞这一荣誉和待遇，不予接受。人到晚年，生怕自己会变得骄傲专权，便有意推掉各种事务，多次要求回到自己的封地长沙，去养老。朝廷没有答应，请他坐镇武昌 ，主持晋朝西面的军政大局。这时，北面是石勒的后赵，西面是李雄的成汉，三国鼎立，虽说没有大的军事行动，小摩擦倒也时有发生。因此，陶侃并不清闲。
他所管辖的地方，东到宣城，西到白帝城，北到襄樊，南及越南中部，合共八州，纵横几千里，占了东晋王朝地盘的六分之五。由于他的认真勤勉，管理这些地方，做到了井井有条，百姓安宁，路不拾遗。
可是，经受四十一年的辛苦劳累之后，他终于病倒了，才写信要求退休。纪元334年夏天，他派殷羡（人名）到建康去，送回几十年来朝廷赐给的各种荣誉证物：发号施令的大将旌节，指挥战斗的帅旗，出征乘坐的专车，特等功臣的礼服和太尉勋章，八州刺史的印鉴和证书，以及官衙前的仪仗棨戟等等，凡是朝廷授给的，毫无保留。可有的人一向喜欢把这些东西，当作传家宝，要向人炫耀的。而他不留给家人，甚至不想留下痕迹，让昔日的光荣繁华，化为轻烟。
他把各种物资和器械，牛马车船，钱粮谷米，全都登记造册。仓库贴上封条，钥匙自己带着。然后把右司马王愆期 请来，一件件地清点交割，军政事务也同时交待明白。
六月的一天，他坐着一辆普通木头小车，到江边上船，回长沙去。自动来送行为文武官吏和城乡士民，人山人海，攀住他的车辕，哭声震动田野。
陶侃抑制住惜别之情，跟送行的官员们说：“我这老头儿完全垮了，动不得了，不就是因为你们一再挽留无法退休吗?其实，我哪里值得诸位这般尊重呢?”
骄阳当空，人潮也像大江的浪涛一样涌动，人们全都忘记了酷热，泪眼泣滴的望着陶侃西归的帆影，留恋、怅惘……
（事据《资治通鉴》）