李大亮出身陇西李氏，但家族并非显赫支系。其祖父李琰曾任北周刺史，父亲李充节为隋朝县令。隋末天下大乱，李大亮先是投奔瓦岗军李密，后随李密部将张弼归附了唐朝，因才能出众被唐高祖李渊赏识，授土门县令（今陕西富平），面对饥荒与盗贼，他安抚流民、鼓励生产，并亲率士卒击退寇乱，救活大量百姓。
不久，因能力突出，被李渊提拔为金州（今陕西安康）司马，协助州总管处理军政事务，稳定秦岭以南地区。到了贞观初年，任越州都督（今浙江绍兴），在当地推行均田制，恢复江南经济，政声卓着。
在军事行动中，他跟随李世民平定王世充、窦建德，参与镇压辅公祏叛乱。任灵州都督期间（今宁夏灵武），多次击退突厥进犯，李世民赞其“一夫当关，虏不敢窥”。贞观八年（634年）任剑南道巡省大使，对稳定唐朝西南边疆作出了卓着贡献。
贞观后期，李大亮历任工部尚书、右卫大将军、左卫大将军，兼太子右卫率，负责宿卫宫廷。期间曾出使吐蕃，参与边疆外交。李大亮虽身居高位，却散尽俸禄接济宗族孤老，家中无余财。临终时仅以“布被覆身”，李世民闻之泣下。
他曾拒绝李世民赐予的奴婢，称“臣誓不纳妾”。在《贞观政要》中记载其多次直言进谏，反对太宗扩大功臣封户。此外，他还是知恩图报的典型代表，早年落魄时曾得张弼救助，显贵后倾力报恩，赠奴仆、田宅，传为美谈。
《旧唐书》称其“文武兼资，忠贞是蹈”，《新唐书》赞其“大亮性忠谨，外若不能言，而内刚烈”。贞观十八年（644年），李大亮病逝于长安，享年59岁。唐太宗李世民为其废朝三日哀悼，追赠兵部尚书、秦州都督，谥号“懿”。
李大亮任职的金州是唐朝初年的行政区划，其辖区大致对应今日的陕西省安康市一带，核心区域位于汉江中游的安康盆地。
唐代金州属山南西道，下辖六县（如西城、洵阳、石泉等），州治设在西城县（今安康市汉滨区老城街道）。辖区涵盖