Olimpijski komitet Bosne i Hercegovine osnovan je 4. juna 1992. godine. Za prvog Predsjednika OK BiH izabran je g-din Stjepan Kljuić, za zamjenika g-din Uglješa Uzelac, dok je za generalnog sekretara izabran g-din Izudin Filipović. Osnivačkom skupštinom OK BiH predsjedavao je g-din Ahmed Karabegović.

Nakon osnivanja i prvog nastupa sportista naše države na Olimpijskim igrama u Barceloni 1992. godine, usljedilo je i zvanično priznanje od strane Međunarodnog olimpijskog komiteta (MOK-a), koji je svoju Odluku donio na zasjedanju Izvršnog komiteta u Monaku 24. septembra 1993. godine.

Nakon osnivanja i  međunarodnog priznanja, Olimpijski komitet Bosne i Hercegovine je 08. decembra 2002. godine upisan u registar Ministarstva pravde BiH kao prva sportska organizacija u koju se udružuju nacionalni sportski savezi. Upisom u ovaj registar, kao i potpisom Lozanske deklaracije od 28. jula 1999. godine, Olimpijski komitet Bosne i Hercegovine je konstituisan u krovno sportsko tijelo države Bosne i Hercegovine.

Prvi grb Olimpijskog komiteta BiH izradio je akademski slikar Mersad Berber.

Olimpijski komitet BiH kao član MOK-a se obavezao poštovati pravila Olimpijske povelje, Statuta MOK-a, Etičkog kodeksa MOK-a, Svjetskog anti-doping kodeksa, zajedničke Izjave iz Lozane, Zakona o udruženjima i fondacijama BiH, te Zakona o sportu Bosne i Hercegovine.

Na Osnivačkoj skupštini OK BiH okupili su se predstavnici 20 sportskih federacija – predstavnika olimpijskih sportova, ugledni sportski radnici, predstavnici sportskih novinara, sportskih ljekara i pedagoga fizičke kulture i to:

Mehmed Sokolović, Petko Radović, Dezider Jurišić, Petko Radović, Vasilije Morović, Mirsad Fazlagić, Burazor Slavko, Ahmed Karabegović, Mersad Berber, Miroslav Šipeka, Davorin Popović, Mirza Delibašić, Memnum Idžaković, Stevica Krsmanović, Branislav Crnogorac, Ale Hasanbegović, Zdenko Brož, Uglješa Uzelac, Čedo Gojković, Dragan Nožica, Mladjen Talić, Faruk Talić, Marko Petrović, Enes Terzić, Izudin Filipović, Stjepan Kljujić, Namik Terzimehić, Ismet Arslanagić, Muhamed Masleša i Manojlo Čalija.

Na ovoj Skupštini Izabrani su članovi Izvršnog komiteta OK BiH u sastavu:

Mirza Delibašić, Mirsad Fazlagić, Čedo Gojković, Ahmed Karabegović, Dragan Nožica, Ante Raos, Mehmed Sokolović, Miroslav Šipek i Katica Šporer.

Izabrani su i članovi prvog Nadzornog odbora OK BiH i to: Muhamed Mujić - predsjednik, Vlatko Hrgic i Dako Radošević - članovi.