Košarka se u olimpijskom programu pojavila na posljednjem predratnom forumu - 1936. u Berlinu. Na njemu su sudjelovale 23 ekipe, što je košarkaški turnir učinio najreprezentativnijim među ekipnim sportovima na XI ljetnim igrama. Prvo zlato u ovom sportu pripalo je američkoj reprezentaciji, drugo su bili Kanađani, a treće - Meksikanci.
Amerikanci su i dalje dominirali ovim sportom - od jedne i pol turnira u kojima je sudjelovala ekipa ove zemlje, samo su u tri izgubili prvenstvo. Dvaput na vrhu mogao bi biti reprezentacija SSSR-a, jednom - reprezentacija Argentine. Amerikanci nisu sudjelovali na Olimpijskim igrama 1980., a tada su jugoslavenski košarkaši dobili zlato. Na račun sovjetskih timova, osim dvije zlatne nagrade, nalaze se i četiri srebra i tri bronce - ovo je druga linija u kombiniranom rangu postignuća muških košarkaša.
Ženska košarka dodana je programu ljetnih igara deset olimpijskih ciklusa kasnije - prije XXI olimpijade koja je održana u Atlanti 1976. godine. Prvi turnir osvojili su košarkaši Sovjetskog Saveza, kao i drugi, održan bez sudjelovanja Amerikanaca. Još jednom, na Ljetnim igrama u Barceloni 1992. godine, tim sastavljen od igrača iz bivših republika SSSR-a odlikovao se u košarkaškim natjecanjima. Na svim ostalim ženskim olimpijskim turnirima, a već ih je bilo šest, pobijedile su samo reprezentacije SAD-a.
Muške košarkaške reprezentacije Rusije za razdoblje u kojem je djelovala kao neovisna država nikad nisu uspjele osvojiti medalje na Olimpijadi. Žene imaju bolje rezultate - na posljednje dvije ljetne sportske tribine osvajale su brončane medalje.
Prema danas važećim propisima, profesionalni košarkaši imaju pravo sudjelovati na olimpijskim košarkaškim turnirima. Odabir timova kojima je dopušteno startati u njemu provodi se prema unaprijed određenoj shemi u kojoj su u kvalifikacijskim natjecanjima identificirana samo tri mjesta. Ostatak je raspodijeljen između prvaka Afrike, Amerike (2 tima), Azije, Europe (2 tima) i Oceanije. Aktualni svjetski prvak i reprezentacija zemlje domaćina Olimpijade dobivaju još jedno mjesto.
