昭和39年の東京オリンピックに向けたインフラ整備などの反動から昭和40年不況が起き、戦後初めてとなる国債発行が準備された。1966年1月に、戦後初めての国債が、期間7年､利率6.75%で2千億円発行された。次いで1966年当初予算から本格的に国債が導入され、3月からは大蔵省資金運用部による国債の引受も開始された。

昭和40年代に発行された国債は国債引受シンジケート団と大蔵省資金運用部によって引き受けられていた。シ団引受の一部は市中消化されたが、ほとんどはシ団メンバーの金融機関が保有した。金融機関が引き受けた国債の市場売却は事実上自粛され、国債の利率も低く抑えられていた。

ただし、1967年1月より日銀は買入債券の対象に発行後1年経過の国債を追加したことで、金融機関の保有する国債はほぼ全額このオペによって吸収されたのである。これが日銀の国債買入の始まりである。

1977年に金融機関の取得した国債の流動化がスタートした。日銀オペで吸収される国債の比率が低下し、都銀等の預金増加額に占める国債引受の割合が急増していたため、借換債の発行をしていなかった特例国債の市場売却については各金融機関の自主的な判断に委ねられた。ただし、引き受け後一年間は引き続き売却を自粛することとされた。また建設国債に対しても借換方式を見直すことを前提に流動化が開始された。

1985年6月に金融機関の債券のフルディーリングが開始された。10月には東京証券取引所に日本ではじめての金融先物市場が誕生した。国債は流動性が向上することとなり、債券市場は急速に拡大した。

1993年１月に大蔵省資金運用部が初めての国債買い入れを実施した、1998年にその運用部の国債買入停止観測などをきっかけに運用部ショックが発生。結局、運用部の買入は継続されたが、2001年4月から財投債の発行が開始されたことで資金運用部の国債買い入れは停止された。

日銀は2001年3月19日の金融政策決定会合において量的緩和策を決定し、国債買い入れの額をそれまでの4千億円から増額した。ただし、国債買入れについて日銀券の発行残高というキャップをつけた。

2002年1月に日銀は国債買い入れオペ対象を発行年限別の直近発行2銘柄を除くに拡大した。1967年1月に日銀は発行された国債が1年経過した国債を買い入れオペに加えることを決定したが、日銀はこの1年ルールも変更することにしたのである。この量的緩和時代も日銀は数度にわたり国債買入の額を増額させた（除く福井総裁時代）。

2010年10月の包括緩和政策では、これまでの国債買入れとは別枠で国債を買入れる方針を示した。日銀券ルールに縛られない実質的な国債買入の増額となった。ただし、買入対象は中期債に限定していた。

これらのルールを完全に覆したのが2013年4月の量的・質的緩和である。長期国債の保有残高が年間50兆円に相当するペースで増加するよう買入を行うこととし、長期国債の買入対象を40年債を含む全ゾーンとし、買入の平均残存年数を現状の3年弱から国債発行残高の平均並みの7年程度に延長した。

2014年10月の量的・質的緩和の拡大で長期国債については保有残高が年間80兆円に相当するベースで増加するよう買入れを行うこととし。買入れの平均残存期間を7～10年程度に延長したのである。