Образован 20 июня 1924 г. постановлением ВЦИК. По положению о Комитете Севера от 2 февраля 1925 г. его задачей было содействие развитию малых народностей Севера в хозяйственно-экономическом, административно-судебном и культурно-санитарном отношении. Для выполнения поставленных задач были организованы местные комитеты Севера при губисполкомах северных губерний.
Для подъема народного хозяйства и культурного уровня народностей Севера Комитет организовывал на местах культурные базы, имеющие в своем составе школу-интернат, медицинский и ветеринарный пункты, агро- и зоопункты, передвижные библиотеки.
Комитет Севера был подотчетен Президиуму ВЦИК и мог входить в него с докладами и предложениями. Рабочий аппарат Комитета Севера состоял из управления делами и содержался по смете ВЦИК. Комитет работал пленарно, а между заседаниями пленумов высшим органом являлось Бюро, образованное 26 августа 1924 г. Комитет создавал специальные комиссии по вопросам своей деятельности. В Ленинграде был открыт филиал Комитета Севера.
Комитет и его местные органы были ликвидированы постановлением Президиума ВЦИК от 10 августа 1935 г., функции Комитета Севера по хозяйственному и культурному обслуживанию районов Крайнего Севера переданы Главному управлению Северного морского пути при СНК СССР, наблюдение за осуществлением национальной политики в отношении народностей Севера возложено на отдел национальностей при Президиуме ВЦИК, а функции местных органов переданы специальным отделам нац-меньшинств краевых и областных исполкомов. Издававшийся Комитетом Севера журнал «Советский Север» был объединен с журналом «Советская Арктика».