Na ljetnim olimpijskim igrama sportaši se natječu u mnogim sportovima, uključujući gimnastiku. Ova disciplina prisutna je u natjecateljskom programu s prvih Olimpijada 1896. u Ateni.
Gimnastika je jedan od sportova koji može donijeti mnogo medalja određenom sportašu i reprezentaciji. Suvremeni program olimpijade predviđa uručenje 14 skupova nagrada. Muškarci se natječu za nagrade u apsolutnom prvenstvu, ekipnoj konkurenciji, podnim vježbama, svodu, vježbama na paralelnim šipkama, prstenovima, konju i prečki. U žena su posljednje 4 školjke zamijenjene neravnim gredama i trupcem.
Na prvim olimpijskim igrama 1896. godine održana su natjecanja za muškarce samo u gimnastici. Većinu nagrada - njih 10 - dobili su sportaši iz njemačkog carstva. Vrijedne su bile i ekipe Grčke i Švicarske.
Godine 1908. gimnastičari iz Ruskog carstva prvi su put nastupili na Olimpijadi. To su bili sportaši iz Finske i nastupili su pod imenom svoje države, iako pod ruskom zastavom. Finska momčad dobila je broncu u ekipnim natjecanjima.
Žene su prvi put mogle sudjelovati na gimnastičkim natjecanjima na Olimpijskim igrama 1928. u Amsterdamu. Tada im je bilo dopušteno samo ekipno natjecanje. Među ženskim ekipama prvo mjesto zauzela je Nizozemska.
Godine 1952. natjecateljski se program značajno proširio. Konkretno, među ženama počele su se održavati apsolutne superiornosti, kao i natjecanja u pojedinim aparatima. Olimpijada u Helsinkiju bila je trijumf sovjetskim gimnastičarima. Ovo im je prvo sudjelovanje na olimpijadi. Kao rezultat toga, sportaši iz SSSR-a osvojili su 22 medalje, od čega zlato u muškoj i ženskoj ekipi i apsolutna prvenstva.
U sljedećim igrama uspjeh sovjetskih sportaša ponovio se. Kao dio sovjetske ekipe počela je nastupati gimnastičarka Larisa Latynina, dobila je najviše olimpijskih medalja u povijesti sporta.
Od 60-ih godina program natjecanja u gimnastici nije se mijenjao. Međutim, uvedeni su novi zahtjevi za sportaše. Od 90-ih do natjecanja djevojke do 16 godina nisu dopuštene, iako su ranije postojali slučajevi primanja medalja i četrnaest godina.
Uspjesi Rusije, u usporedbi sa Sovjetskim Savezom, u ovom sportu postali su skromniji. Međutim, postoji nada da će se situacija izjednačiti i s pojavom nove generacije mladih sportaša u velikim sportovima.
