后陵复至北海上，语武：“区脱捕得云中生口，言太守以下吏民皆白服，曰：｀上崩！’”武闻之，南乡号哭欧血，旦夕临数月。
昭帝即位数年，匈奴与汉和亲。汉求武等，匈奴诡言武死。后汉使复至匈奴，常惠请其守者与俱，得夜见汉使，具自陈道。教使者谓单于：“言｀天子射上林中，得雁，足有系帛书，言武等在某泽中。’”使者大喜，如惠语以让单于。单于视左右而惊，谢汉使曰：“武等实在。”
于是李陵置酒贺武曰：“今足下还归，扬名于匈奴，功显于汉室。虽古竹帛所载，丹青所画，何以过子卿！陵虽驾怯，令汉且贳陵罪，全其老母，使得奋大辱之积志，庶几乎曹柯之盟，此陵宿昔之所不忘也！收族陵家，为世大戮，陵尚复何顾乎？已矣，令子卿知吾耳！异域之人，壹别长绝！”陵起舞，歌曰：“径万里兮度沙幕，为君将兮奋匈奴。路穷绝兮矢刃摧，士众灭兮名已隤；老母已死，虽欲报恩将安归！”陵泣下数行，因与武决。单于召会武官属，前已降及物故，凡随武还者九人。
武以始元六年春至京师。诏武奉一太牢，谒武帝园庙。拜为典属国，秩中二千石，赐钱二百万，公田二顷，宅一区。常惠、徐圣、赵终根皆拜为中郎，赐帛各二百匹。其余六人，老，归家，赐钱人十万，复终身。常惠后至右将军封列侯，自有传。武留匈奴凡十九岁，始以强壮出，及还，须发尽白。
武来归明年，上官桀、子安与桑弘羊及燕王、盖主谋反。武子男元，与安有谋，坐死。初，桀、安与大将军霍光争权，数疏光过失予燕王，令上书告之。又言：“苏武使匈奴二十年，不降，还，乃为典属国；大将军长史无功劳，为搜粟都尉。光颛权自恣。”及燕王等反，诛，穷治党与。武素与桀、弘羊有旧，数为燕王所讼，子又在谋中：廷尉奏请逮捕武。霍光寝其奏，免武官。
数年，昭帝崩。武以故二千石与计谋，立宣帝。赐爵关内侯，食邑三百户。久之，卫将军张安世荐武明习故事，奉使不辱命，先帝以为遗言。宣帝即时召武待诏宦者署，数进见。复为右曹典属国。以武着节老臣，令朔望，号称祭酒，甚优宠之。武所得赏赐，尽以施予昆弟、故人，家不余财