日本の選手がオリンピックに初出場したのは、1932年のロサンゼルス五輪です。
この時の成績は、団体5チーム中5位と最下位でした。
その後、54年ローマでの世界選手権で初の団体でのメダルを獲得。
1960年のローマ五輪で男子団体優勝をはじめとして、1964年東京五輪、1968年メキシコシティー五輪、1972年ミュンヘン五輪、1976年モントリオール五輪と、団体で五輪5連覇を達成し、 体操王国ニッポンの名を世界にとどろかせました。
特にミュンヘン五輪では、月面宙返りで鉄棒金メダルを獲得した塚原光男氏をはじめ、 全８種目２４個のメダルのうち１６個を獲得。 日本男子体操が最も強さを誇った大会となりました。

また1984年ロサンゼルス五輪では森末慎二氏が鉄棒で 近代五輪において男子初の10点満点での金メダルなど輝かしい成績を残しています。女子も1964年東京大会で団体銅メダルを獲得しています。
現在オリンピックで日本の『お家芸』といえばレスリング・柔道・水泳などを思い浮かべる人も多いですが、過去のオリンピックで最もメダルを獲得している種目は体操競技です。 （体操92・水泳74・柔道65・レスリング56）
しかし、1996年のアトランタでメダル0に終わり、 その後日本が得意としていた規定演技の廃止もあいまって長い低迷期に入りました。
そこから再びメダルを獲得するのは2004年アテネまで8年、 団体金メダルは28年かかる事となります。
アテネ五輪は冨田洋之氏・鹿島丈博氏などの活躍で団体総合では金メダル、また種目別でも３つのメダルを獲得しました。
体操ニッポン復活が期待されるも10点満点廃止などの新採点方式の影響で 北京では銀メダルに終わりましたが、内村航平選手がロサンゼルス五輪の具志堅幸司氏以来、 ２４年ぶりの個人総合でメダルを獲得するなど明るい話題もありました。
女子団体は鶴見虹子の活躍もあり、24年ぶりの入賞（5位）を果たしました。

昨年、「体操JAPAN CUP」の第1回大会が開催され、東京での本格的な体操国際競技会は1993年の東京カップ以来、6年振りの大会開催。
初代に王者に輝いた内村選手に加え、男子団体も金メダルに輝き、また女子団体も銅メダルに輝き、男女とも好成績を残した大会となりました。
世界選手権で女子個人総合で鶴見選手が１９６６年大会で銅メダルに輝いた池田敬子選手以来、４３年ぶり史上２人目の快挙となりました。
男子では内村選手が日本選手では史上４人目となる金メダルを獲得。
当時２０歳だった内村選手は、五輪と世界選手権を通じ、日本人で最年少の個人総合チャンピオンとなりました。
田中和仁選手は４位の好成績を収めました。