Iako se slična igra s loptom spominje još u pjesmama iz antike, službenom godinom rođenja rukometa smatra se 1898. god. Tada je ekipno natjecanje s gotovo modernim pravilima uvršteno u program nastave tjelesnog odgoja u jednoj od škola u Danskoj. Danci su također zaslužni za samu ideju igranja ruku s loptom i golom - igrači ove zemlje iskoristili su je za održavanje forme zimi.
Prva pojava rukometa u programu Olimpijade dogodila se na posljednjim ljetnim igrama prije izbijanja Drugog svjetskog rata. U Berlinu su igrale ekipe sastavljene od jedanaest igrača, a pobjednik turnira bila je ekipa domaćina natjecanja. Ovaj se sport vratio na olimpijske sportske praznike tek 36 godina kasnije. I to se opet dogodilo u Njemačkoj - u Münchenu su se natjecale muške ekipe, koje je, u skladu s modernim pravilima, činilo 7 igrača. Tada je pobjednik bila ekipa Jugoslavije. Već na sljedećim Olimpijskim igrama u kanadskom Montrealu na muški rukometni turnir dodana je ženska osoba. Te godine su momčadi SSSR-a bile jače od suparnica i u ženskoj i u muškoj konkurenciji.
Sovjetske ženske ekipe osvojile su i sljedeći olimpijski turnir 1980. u Moskvi, a u svim timovima Sovjetskog Saveza četiri su puta osvajale zlatne nagrade i jednom postale srebrne i brončane medalje. Ovo je najbolji pokazatelj među svim zemljama koje sudjeluju na olimpijskim rukometnim turnirima. Nakon što je Sovjetski Savez prestao postojati, pobjedničku tradiciju najprije su nastavile ekipe sastavljene od igrača iz bivših republika SSSR-a - osvojile su jedno zlatno i brončano priznanje. Tada su, prilično uspješno, nastupile reprezentacije Rusije na ljetnim igrama, osvojivši po jednu medalju svakog dostojanstva.
Od ostalih zemalja, Jugoslavija je postigla najviše pokazatelja, osvojivši pet medalja raznih denominacija na Olimpijadama. Nakon raspada ove države, jedna od bivših republika nastavila je svoju tradiciju - reprezentacije Hrvatske na popis su dodale još dvije zlatne nagrade. I Rusija i Hrvatska imaju sve mogućnosti nadopuniti svoje svinjarije medaljama igara na XXX Ljetnim olimpijskim igrama u Londonu - muške i ženske rukometne reprezentacije tih zemalja dobile su pravo sudjelovanja na turnirima 2012. godine.
