肃宗视李泌为智囊，军国大政请其参决，虽不担任宰相，但仍与当年为太子时一样“出则联辔，寝则对榻”,“事无大小皆咨之，言无不从，至于进退将相亦与之议”。
有一次，肃宗与李泌同至军中巡视，军士在背后指指点点，窃窃私语曰：“衣黄者，圣人也；衣白者，山人也。”肃宗听到，便劝李泌“且衣紫袍以绝群疑”,李泌不得已而穿上紫袍官服。
这时肃宗大笑曰：“既服此，岂可无名称!”说着从怀中取出诏敕，授李泌为侍谋军国、元帅行军长史。李泌坚辞，肃宗说道：“朕非敢逼先生为相，只望先生助朕以济艰难，俟平定贼乱，任先生远走高飞。”李泌这才接受了。
肃宗设立元帅府于禁中，李泌与广平王假轮流坐镇，禁门钥契，皆委李泌与广平天假执掌。四方奏报，先送元帅府，由李泌拆封先阅，除十万火急者可即“隔门通进”直呈肃宗，其余则由李泌与广平王假商议处理，然后呈奏肃宗，所以李泌乃事实上的宰相。
李泌是肃宗政权中的重要人物，他头脑冷静，富于韬略，为肃宗出了不少好主意，尤其在调整上层统治集团内部的关系、缓和统治集团内部矛盾方面，起了很大的作用。
如建宁王俟，“性英果，有才略”,李亨从马嵬驿北上，一路上都是他亲自领兵打头阵，捍卫李亨的，故在军中颇有威望。肃宗即位后，曾想以建宁王谈为天下兵马元帅。然而，他是肃宗的第三子，广平王假则是长子，按照封建正统的承继法，广平王假是未来的太子，这样就可能在兄弟之间酿成致命的矛盾。李泌看到了这一点，于是劝肃宗道：“广平王尚未正位东宫，而今天下艰难，众心所属在于元帅，一旦建宁王军功告成，太子储君就不好安排了。”