Первые специализированные органы расследования появились в период централизацией Русского государства. Согласно Судебнику 1550 года, Боярская дума «по государеву приказу» рассматривала наиболее важные дела. Расследование, судебное рассмотрение и исполнение приговоров по таким делам осуществляла состоявшая при ней Расправная палата, а также Разбойный приказ. В середине XVII века создается специализированный орган расследования государственных преступлений - Тайный приказ. В эпоху петровских реформ Расправная палата была ликвидирована. Расследование наиболее важных, в первую очередь политических, преступлений поручалось Тайной канцелярии, переименованной при Петре III в Тайную экспедицию при Сенате.

            8 сентября 1802 года в России образовано Министерство внутренних дел. С августа 1810 года по 1819 год существовало также Министерство полиции. До 1860 года городская и земская полиция осуществляла расследование всех общеуголовных преступлений. В уездах его проводили становой пристав, земский исправник и уездный стряпчий, а также отделение земского суда, состоявшее из этих должностных лиц. В городах преступления расследова­лись частными или следственными приставами. Предварительное следствие заключалось в собирании доказательств, позволяющих обнаружить и изобличить виновного. Оно разделялось на предварительное и формальное. Основной задачей первого являлось установление обстоятельств совершения преступления. В ходе формального следствия выяснялось, действительно ли обвиняемый совершил преступле­ние и полежит ли он наказанию. Одной из первых попыток реформирования предварительного расследования стала разработка в 1837 году Собственной Его Императорского Величества канцелярией законопроекта «О следствии», в соответствии с которым эта функция изымалась у полиции, а следователь относился к судебной власти. За поли­цией оставалось расследование незначительных преступлений и проступ­ков.

            В тот период большинство следователей не имели юридического образования. Наг­рузка на каждого из них составляла 120-150 дел в год, а иногда доходила до 200-400 дел. Следственные участки порой превышали полтора десятка тысяч квадратных верст.

            Начиная с 1860-х годов, кандидат в судебные следователи обязан был иметь высшее юридическое образование и прослужить по судебной части не менее трех лет. Присяжные поверенные (адвокаты) назначались на должность судебного следователя при стаже работы не менее 10 лет и наличии свидетельства судов, при которых они состояли, о добросовестном исполнении своих обязанностей. Прокурор осуществлял надзор за предварительным следствием, осуществляемым судебным следователем, но в случае несогласия с ним не вправе был принимать уголовное дело к своему производству. В то же время при нехватке судей следователь мог привлекаться к рассмотрению уголовных дел, предварительное следствие по которым он не производил.

            В 1870 году были учреждены должности судебных следователей по важнейшим делам, а 1875 году - следователей по особо важным делам окружных судов.

            В августе 1880 года в составе МВД был образован департамент полиции, в который помимо общей полиции вошли полиция политическая и корпус жандармов. Последние проводили предварительное следствие по политическим делам, изъятым из ведения судебных следователей.

            После Октябрьской революции 1917 года институт следователей был упразднен. Взамен его при Петроградском Совете рабочих и солдатских депутатов для борьбы с контрреволюцией, саботажем и общеуголовной преступностью был создан Военно-революционный комитет, в состав которого входила следственная комиссия. На местах предварительным расследованием занимались следственные комиссии соответствующих военно-революционных комитетов. Расследованием преступлений занимались также штабы Красной гвардии.

В декабре 1917 года была создана Всероссийская чрезвычайная комиссия по борьбе с контрреволюцией и саботажем. В соответствии с Декретом о суде № 2 от 7 марта 1918 года и Декретом о суде № 3 от 20 июля 1918 года расследование дел о посягательствах на жизнь, причинении тяжкого вреда здоровью, изнасиловании, разбое, бандитизме, подделке денег, взяточничестве и спекуля­ции, а также по особо сложным делам, подсудным уездному (городскому) суду, осуществлялось следственными комиссиями окружных судов. Комиссия состояла из трех человек, избираемых соответствующим исполкомом. Действовала она в пределах следственного участка, на которые делилась территория города или уезда. Следственные комиссии в полном составе возбуждали и прекращали уголовные дела, избирали и изменяли меру пресечения, выносили постановление о предании суду. Отдельные следственные действия могли производиться комиссией в полном составе или одним из ее членов. Расследование по остальным делам в случаях, не терпящих отлагательства, суд мог поручить постоянному народному судье.

            Уголовно-процессуальный кодекс 1922 года и Основы уголовного судопроизводства Союза ССР и союзных республик 1924 года возложили расследование преступлений на народных следователей и старших следователей, состоящих при губернских судах, следователей по важнейшим делам при наркомате юстиции и Верховном Суде РСФСР, а также следователей военных трибуналов. Должности следователей в уголовном розыске упразднялись.

            В соответствии с Положением о судоустройстве РСФСР, принятым 19 ноября 1926 года, вводились народные следователи, которые состояли при следственных участках и подчинялись губернскому суду, а также состоящие при губернских судах старшие следователи и следователей по важнейшим делам при Прокуроре РСФСР и Верховному Суде РСФСР.

            В сентябре 1928 года следователи были выведены из подчинения су­дов и переданы в ведение прокуроров. При этом прокуратура находилась в структу­ре наркомата юстиции, а решения прокуроров о назначении и увольнении народных следователей утверждались губисполкомами. В январе следующего года в ведение военных прокуратур переданы военные следователи.

            10 июля 1934 года был образован Наркомат внутренних дел СССР, ОГПУ преобразовано в Главное управление государственной безопасности и включено в состав НКВД СССР. В этот период по основной массе общеуголовных преступлений орга­нами милиции проводилось дознание, материалы которого направлялись прокурору и после утверждения им обвинительного заключения передава­лись в суд. Прокурор имел право поручить милиции расследование любого уголовного дела в полном объеме. Если предварительное следствие по де­лу являлось обязательным, милиция могла проводить следственные дейс­твия в течение месяца, после чего передавала его следователю. Послед­ний, признав материал дознания полным, ограничивался предъявлением обвинения, допросом обвиняемого и составлением обвинительного заключе­ния.

            На практике большинство уголовных дел расследовалось органами милиции. Для их расследования непосредственно перед Великой Отечественной войной в аппаратах уголовного розыска и БХСС ведомственным приказом были созданы следственные аппараты. Руководство им осуществлял следственный отдел Главного управления милиции НКВД СССР.

В послевоенный период согласно УПК РСФСР 1927 года по основной массе общеуголовных преступле­ний производилось дознание. Следователи оставались в органах прокуратуры, но фактически предварительное следствие более чем по половине уголовных дел осуществляли органы милиции.

            Основы уголовного судопроизводства Союза ССР и союзных республик 1958 года расширили процессуальную самостоятельность следователя. При производстве предварительного следствия все решения о направлении следствия и производстве следственных действий следователь принимал самостоятельно, за исключением случаев, когда законом предусмотрено получение санкции прокурора, и нес полную ответственность за их законное и своевременное проведение. Следователь по расследуемым им делам вправе давать органам дознания поручения и указания о производстве розыскных и следственных действий и требовать от органов дознания содействия при производстве отдельных следственных действий.

            Указом Президиума Верховного Совета СССР от 6 апреля 1963 года право производства предварительного следствия было предоставлено следователям органов внутренних дел. В их компетенцию вошло расследование общеуголовных преступлений. Одновременно милиция сохранила право производить дознание в полном объеме по большинству преступлений.

            С принятием в 1995 году Закона Российской Федерации «О милиции» процессуальные права начальника органа дознания перешли от начальников органов внутренних дел к руководителям криминальной милиции и милиции общественной безопасности. Следователь перестал находиться в формальном подчинении начальников органов дознания. Одновременно Законом Российской Федерации «Об оперативно-розыскной деятельности» производство оперативно-розыскных мероприятий было возложено на органы, не находящиеся в зависимости от следователей. В это же время в МВД России создан Следственный комитет, который возглавил все органы предварительного следствия в системе Министерства. Они перестали подчиняться другим подразделениям органов внутренних дел. Для следователей были установлены специальные звания юстиции.

            Необходимо также заметить, что параллельно в 1995 году следственный аппарат законодательно был воссоздан в органах безопасности и налоговой полиции. В этой связи введение института следователей в органах внутренних дел Российской Федерации объективно приблизило организацию предварительного следствия в нашей стране к общемировым образцам. Характерно, что по этому же пути пошло большинство бывших союзных республик (Украины, Белоруссии, Литвы, Эстонии). Кроме того, оно позволило существенно улучшить взаимодействие между следователями и работников органов дознания.

            Уголовный кодекс Российской Федерации, введенный в действие с ян­варя 1997 года, расширил круг преступлений, которые отнесены к подследственности следователей органов внутренних дел. Так, ими успешно расследуются причиняющие большой ущерб экономике России составы преступлений, связанные с изготовлением и сбытом поддельных ценных бумаг. Наряду с такими преступлениями существенный урон экономическим интересам государства причиняет хищение драгоценных металлов. Производство по делам о таких преступлениях также осуществляют следователи органов внутренних дел.

            Тенденция расширения подследственности следователей органов внутренних дел за счет сокращения категорий уголовных дел, относящихся к компетенции следователей органов прокуратуры, нашла отражение и в Уголовно-процессуальном кодексе Российской Федерации, принятом в 2002 году