12 октября 1918 г. НКВД и Наркомюст утвердили совместную инструкцию «Об организации советской рабоче-крестьянской милиции». Закреплялся штатный принцип организации милиции. Милиция строилась на классовой основе: на работу в милицию принимались граждане РСФСР, достигшие 21 года, имеющие рабочее или крестьянское социальное происхождение. Инструкцией определялись основные задачи милиции: охрана общественного порядка, борьба с уголовной преступностью, пресечение действий против власти, проведение в жизнь законов Советской власти и т.д.

Руководство органами милиции осуществляло Главное управление рабоче-крестьянской милиции НКВД РСФСР.

Система милицейских органов окончательно сложилась в июне 1920 г., когда было принято Положение о рабоче-крестьянской милиции. В соответствии с ним на органы милиции возлагались функции по охране общественного порядка, борьбе с преступностью, проведению следственных действий и дознания по уголовным делам.

В систему органов милиции входили:

городская и уездная милиция;

промышленная милиция (фабрично-заводская, лесная, горно-промышленная и т.п.);

железнодорожная милиция;

водная милиция (речная, морская);

розыскная милиция.

Руководство системой органов милиции осуществлял НКВД.

Главным карательным органом в годы Гражданской войны являлась Всероссийская Чрезвычайная Комиссия (ВЧК). Первое время после прихода к власти большевики не ставили задачу создания единой организации, ведущей борьбу с политическими противниками. Эту задачу выполняли Советы, военно-революционные штабы, революционные комитеты, различные комиссии и комитеты, имеющие в своем распоряжении вооруженные формирования. В декабре 1917 года для предотвращения всероссийской забастовки служащих в правительственных учреждениях СНК поручил Ф.Э. Дзержинскому составить особую комиссию. Вечером 7 декабря Дзержинский провел организационное заседание комиссии и выступил на заседании СНК, где изложил основные задачи комиссии. К ним относилось пресечение всех контрреволюционных и саботажнических попыток и действий по всей России со стороны кого бы то ни было. Комиссия ведет только предварительное расследование и передает всех контрреволюционеров революционному трибуналу для суда.

Таким образом, в основу деятельности ВЧК был положен принцип субъективного усмотрения, никаких юридических критериев вины подозреваемого не предусматривалось.

Дзержинский обратил внимание на то, что комиссия должна бороться с политическими партиями и печатными органами, противостоящими большевикам. В постановление комиссия получила название: Всероссийская чрезвычайная Комиссия при Совете Народных Комиссаров по борьбе с контрреволюцией и саботажем. ВЧК стала непосредственной преемницей Петроградского военно-революционного комитета. В состав ВЧК входили члены ВРК. С противниками большевиков ВЧК сначала вела борьбу на территории Петрограда. Но постепенно сфера ее влияния расширяется. Комиссия переезжает вместе с правительством в Москву, превращается в главный общегосударственный орган борьбы с политическими противниками большевиков. 22 марта 1918 г. ВЧК приняла постановление, которым предложили всем Советам организовать местные чрезвычайные комиссии для борьбы с контрреволюцией и спекуляцией, злоупотреблениями по должности и посредством печати. В этом постановлении было отмечено, что «отныне право производства арестов, обысков, реквизиций принадлежит исключительно этим чрезвычайным комиссиям как в городе Москве, так и на местах».

В 1918 г. быстро идет процесс создания губернских чрезвычайных комиссий, который в основном завершился в августе. К этому времени по стране имелось 38 губчека. Важной вехой в становлении ВЧК явилась Первая Всероссийская конференция чрезвычайных комиссий. На съезде было принято решение создания системы нижнего звена чекистского аппарата: уездных и районных ЧК. В 1919—1920 гг. уездные ЧК сливаются с уездными управлениями милиции. Организационной формой этого слияния стали политические бюро при уездных начальниках милиции. Непосредственно заведовать политбюро должен был особый помощник начальника уездной милиции, коммунист с партийным стажем не менее 2-х лет. В ноябре при ВЧК образуется транспортный кабинет, который к началу 1919 годы контролировал практически всю сеть железных дорог и водных путей. Расширяя сферу влияния, ВЧК не могла оставить без внимания вооруженные силы. Первая ЧК в Красной Армии была создана 16 июля 1918 г. во главе с М.Я. Лацисом на Восточном фронте. Но против создания чрезвычайных комиссий выступали армейские работники. Они предлагали создать на базе Военного контроля, занимавшегося борьбой с разведкой противника, особые отделы, которые занимались бы борьбой со шпионажем и контрреволюцией. Победила точка зрения военных, и Военный контроль и Военный отдел ВЧК были объединены в один орган — Особый отдел республики во главе с М.С. Кедровым.

При создании чекистских органов большое внимание обращалось на разработку и развитие методов, средств оперативной деятельности. Вопрос о допустимости в работе ВЧК агентуры обсуждался на конференции и был решен положительно. Развитие агентурного аппарата ВЧК шло по двум направлениям: создание института штатных агентов внутреннего наблюдения и формирование осведомительной сети. Штатные агенты внутреннего наблюдения комплектовались в основном из сотрудников чрезвычайных комиссий. Но их было недостаточно. Поэтому основным направлением в развитии агентурного аппарата ВЧК стало создание массовой осведомительной сети. Параллельно с развитием агентурного аппарата ВЧК развивались службы наружного наблюдения и контроля почтовой и телеграфной корреспонденции. Развитие секретных методов и средств оперативной работы ведет к созданию секретно-оперативного отдела. На базе этого отдела в 1921 г. создается секретно-оперативное управление.

К концу Гражданской войны структура ВЧК была сложной. Секретно-оперативное управление имело шесть отделов. Имело экономическое управление, транспортный отдел, специальный отдел, управление делами, административно-организационное управление, управление войсками ВЧК, следственную часть и специальное отделение по охране правительства.

Не менее сложной была и система местных органов ВЧК. Каждые отдел и управление имели на местах свою сеть отделов и комиссий. Такая структура ВЧК и ее органов, пронизывающая все гражданские и военные учреждения, позволяла ей осуществлять репрессии в массовом порядке.

Важную роль в осуществлении карательной политики большевиков играли классовые суды и революционные трибуналы. «Декрет о суде» 24 ноября 1917 г. ликвидировал все старые судебные органы, упразднил институты судебных следователей, прокурорского надзора, присяжных и адвокатуры. Для наведения революционного порядка создается система Революционных трибуналов. Они заменяют старые суды с «буржуазной законностью».

Важной составной частью карательного механизма Советского государства являлись органы, исполняющие наказание. Система таких органов должна быть принципиально новой, отличной от царской. Тюрьмы должны быть заменены воспитательными учреждениями на основе новой идеологии. Тюремное управление, созданное в 1917 г., преобразуется в 1918 г. в Тюремную коллегию. Для охраны мест лишения свободы была создана конвойная стража Республики.