後周時，張瓊隸屬於趙匡胤的帳下，以驍勇聞名，曾冒死救過匡胤的性命，因此甚得賞識。
太祖即位後，擢典禁軍，累遷為內外馬步軍都軍頭、領愛州刺史。光義遷開封尹臣，代為殿前都虞侯，遷嘉州防禦使。
當時軍校史珪、石漢卿正逢受寵，但張瓊卻屢次折辱他二人，因此二人對其也是恨之入骨。於乾德元年(965)八月，石漢卿便告發張瓊擅乘官馬，畜養部曲百餘人，作威作福，又誣毀趙光義為殿前都虞候時事。
聞此太祖便召了張瓊面訊，不想張瓊拒不認罪，太祖大怒，下令讓石漢卿用鐵擊其首，張瓊被打的氣微垂絕，下御史案查，隨後宋太祖下令賜死張瓊。不過太祖便很快聽説了原來張瓊家中並無餘財，僅有奴僕三人，太祖知道後非常懊悔。並因此責備了石漢卿：“你説的張瓊家那奴僕部曲百人呢，他們在哪裏？”太祖命石漢卿優恤其家屬，並擢其兄張進為龍捷副指揮使，但斯人已逝，並沒有什麼卵用。
據《宋史》是這樣記載張瓊救趙匡胤的：
張瓊為宋太祖趙匡胤的手下。一天，張瓊隨着趙匡胤率兵攻打壽春。正當城上的飛箭射向趙匡胤的時候，張瓊奮不顧身用身體擋住了飛箭，那箭直接擊中了張瓊胯骨。由於箭射太深，很難拔出，於是張瓊就喝了一大碗酒，讓人破骨將箭拔出並刮骨療傷，雖然鮮血流淌，但張瓊依舊神色自若。從中可看出張瓊的氣魄，錚錚鐵骨啊，可惜了一代忠臣竟然就這樣被人誣陷，含冤而死。
