Karhulanvaaralla on ollut asutusta ainakin 1700-luvulta lähtien. Kirjallisissa lähteissä mainitaan tuolloin Karhulanvaaralla asunut Matti Tapio. Kun Suomussalmelle alettiin suunnittelemaan kirkkoa ja pappilaa, päätettiin Matti Tapio häätää mailtaan ja antaa hänelle korvauksena maita Kiannanniemeltä. Tapio ei tästä kuitenkaan ilahtunut ja yrittikin hukuttaa ensimmäisen papin, Carl Saxan kostoksi tilansa menettämisestä. Tämä aie onnistuttiin kuitenkin estämään.
Elias Lönnrotin tiedetään vierailleen runonkeruumatkoillaan Karhulanvaaran pappilassa. Myös maamme ensimmäinen suomenkielinen naisrunoilija, Isa Asp kyläili usein Karhulanvaaralla papin tyttären vieraana ja Suomen ensimmäinen presidentti, Karl Johan Ståhlberg syntyi Karhulanvaaralla vuonna 1865.
Ukko ABC eli August Benjamin Calamnius muutti perheineen Suomussalmelle ja Karhulanvaaralle vuonna 1879. Hänet tunnetaan paremmin kirjailija Ilmari Calamniuksen eli Ilmari Kiannon isänä, ”ukkona”. Kianto kirjoitti useissa teoksissaan elämästä Karhulanvaaralla. Tuolloin Karhulanvaaran pappila jo oli suuri maatalo, jossa oli paljon eläimiä ja työväkeä. Suomussalmen ensimmäinen maantiekin johti Karhulanvaaralta Kirkonkylän Kirkkoniemessä sijainneeseen kirkkoon.
Talvisodassa Kirkonkylän ja Karhulanvaaran rakennukset poltettiin, kun ei haluttu jättää viholliselle suojapaikkoja pakkasta vastaan. Karhulanvaaran rakennuksista säästyi ainoastaan punainen veromakasiini. Alvar Aalto suunnitteli vaaralla sijaitsevan Liekkipatsaan Talvisodan muistoksi.
Sotien jälkeen Karhulanvaaralle ei enää rakennettu uutta pappilaa vaan maa- ja kotitalousoppilaitoksen kannatusyhdistys ajoi 1950-luvulla emäntäkoulun perustamista. Sen rehtoriksi tuli Irma Virkkala vuonna 1962. Emäntäkoulun aikana Karhulanvaaralla toimi mm. iso maatila, jossa opetusta annettiin erilaisiin maataloustöihin.
Emäntäkoulu muutettiin myöhemmin Suomussalmi-opistoksi, jossa annettiin monipuolista toisen asteen ja aikuiskoulutusta. Sen rehtorina toimi Aulikki Moisio. Kainuun maakunnallisessa koulutusuudistuksessa Suomussalmi-opisto sulautettiin osaksi Kainuun Ammattiopistoa ja toiminnot ajettiin vähitellen nollaan. Karhulanvaaran tilat jäivät tyhjilleen. Niissä toimi joitakin väliaikaisia toimijoita, mutta Kirkonkylän koulukiinteistöjen huono kunto pakotti Suomussalmen kunnan pohtimaan Kirkonkylän koulun tulevaisuutta. Joko uuden koulun rakentamista tai muuttoa Karhulanvaaralle. Koulu muuttikin vaaralle remontoituun kiinteistöön tammikuussa 2016 ja koulun nimeksi tuli Karhulanvaaran koulu.
