Айнзатцгруппы и айнзатцкоманды обязаны своим рождением специально созданной службе безопасности и агентам гестапо, которые работали с австрийской полицией по выявлению и аресту граждан, настроенных против нацистского режима и подлежащих физическому уничтожению.
Это произошло во время присоединения Австрии и Судетской области Чехословакии (1938 г.).
Тогда вспервые и создали «исполнительные команды» (нем. Einsatzkommando, айнзатцкоммандо) или «исполнительные группы», которые осуществляли, как писала «Фёлькишер Беобахтер» «очистку освобождённых областей от марксистских предателей народа и других врагов государства».
В зоне боевых действий и на участках непосредственно за линией фронта айнзатцкоманды попадали под контроль вермахта. Тем не менее, вермахт не располагал реальной властью, чтобы вмешиваться в дела айнзатцкоманд.
Их задачей была «борьба против враждебных Рейху и немцам элементов в тылу воюющих войск».
На территории СССР к задачам айнзатцгрупп были отнесены:
- выявление и ликвидация партийного и комсомольского актива;
- проведение розыскных мероприятий, арестов;
- уничтожение советских партийных работников, сотрудников НКВД, армейских политработников и офицеров;
- борьба с проявлениями антигерманской деятельности;
- захват учреждений, имеющих картотеки и архивы, и т. д.
В середине мая 1941 Гейдрих поручил шефу гестапо Генриху Мюллеру обсудить с военными властями соглашение о деятельности айнзатцгрупп в тылу войск, которым предстояло сражаться на Восточном фронте.
Гейдрих требовал: необходимо добиться, чтобы армия не просто терпела присутствие оперативных групп в своем тылу но и «вменила в обязанность своим ответственным службам оказывать полную поддержку всем мероприятиям этих групп, политической полиции и службе безопасности».
Мюллеру не удалось договориться с командующим тыловым районом вермахта генералом Вагнером.
Тогда Гейдрих поручил эту миссию Шелленбергу, которому удалось уговорить военных.
Перед началом кампании против СССР было создано четыре айнзатцгруппы, разделившие между собой фронт по географическому принципу. Они были созданы накануне войны, в мае 1941 года. Группы разделили между собой фронт по географическому принципу:
«А» — страны Прибалтики;
«B» — Смоленск, Москва;
«C» — район Киева;
«D» — южная часть Украины.
Группы были разделены на айнзатцкоманды и зондеркоманды (нем. Sonderkommando, особая команда), имевшие в своём составе от 70 до 120 человек и подразделявшиеся на подкоманды по 20-30 человек. Айнзатцкоманды действовали в глубоком тылу, в то время как зондеркоманды использовались в непосредственной близости к линии фронта.
Зондеркоманды уходили с частями немецкой армии вперед, а на смену им прибывали айнзатцкоманды полиции безопасности и СД.
Формирование айнзатцгрупп происходило в школе пограничной полиции в Претцш на Эльбе и близлежащих Бад Дюбен и Бад Шмидеберг в мае 1941 года.
Ответственным был начальник отдел I (кадров) РСХА бригадефюрер СС Бруно Штрекенбах, который отдавал поручения относительно обучения руководителю школы, доктору Туммлеру.
Командиры айнзатцгрупп были набраны в основном из руководителей среднего звена РСХА. Большинство офицеров айнзатцгрупп имело высшее образование и было в возрасте от 30 до 40 лет.
В то время, как отбор на руководящие посты производился очень тщательно самим Гиммлером или Гейдрихом, остальной персонал просто набирался из Зипо, Орпо, Крипо и СД из тех, кто уже использовался для подобных заданий, без каких-либо конкретных директив на этот счёт.
Зачастую просто брали всех подряд, например, целый выпуск командирской школы Зипо в Берлине был откомандирован в айнзатцгруппы. Никакого отбора по признаку политической благонадёжности, по словам Штрекенбаха не было, так как он уже был сделан при приёме сотрудников в Зипо и СД.
Вспомогательный персонал, такой, как водители, радисты, переводчики, писари и т. д. состоял частично из военнослужащих срочной службы, которые не состояли в СС.
Численность личного состава всех айнзатцкоманд составляла примерно 3000 человек. Личный состав каждой группы колебался от 500 (группа D) до 990 (группа A). В каждой группе было примерно 350 эсэсовцев, 150 шоферов и механиков, 100 членов гестапо, 80 сотрудников вспомогательной полиции (набиравшихся обычно на месте), 130 сотрудников полиции порядка, 40-50 работников уголовной полиции и 30-35 сотрудников СД.
Полагалось также определённое число переводчиков, радистов, телеграфистов, управленческих работников и женский персонал (10-15 женщин на группу). Руководящий персонал состоял из гестаповцев и небольшого количества сотрудников СД и уголовной полиции.