Разработка АПС велась с 1948 года молодым инженером Игорем Яковлевичем Стечкиным, а первый опытный экземпляр был представлен в 1949 году. После утверждения проекта, заводских испытаний, ряда доработок и войсковых испытаний пистолет приняли на вооружение. Оружие могло вести огонь как одиночными выстрелами, так и очередями.
Пистолет АПС предназначался для вооружения офицеров, сержантов, солдат отдельных специальностей и экипажей боевых машин, которым не полагался по штату автомат или карабин. При этом справедливо считалось, что пистолета ПМ не будет достаточно для самообороны в случае боестолкновения с противником.
Однако эксплуатация пистолета в войсках выявила ряд недостатков – неудобство ношения массивной кобуры-приклада, крупные габариты оружия и непрактичность ведения автоматического огня. Рукоятка с малым углом наклона требует некоторого времени для привыкания и мало подходит для «инстинктивной» стрельбы навскидку. Большинство офицеров считало этот пистолет чрезмерно большим и неудобным в повседневном ношении, особенно в условиях мирного времени. Вместе с пистолетом полагалось носить четыре снаряженных запасных магазина (в каждом – по 20 патронов) в подсумках, что еще больше отягощало военнослужащего.
В результате в 1958 году АПС был снят с производства, а в 1960-е годы основная часть армейских пистолетов оказалась на складах (хотя на вооружении отдельных категорий военнослужащих, в частности у гранатометчиков (РПГ-7) и у пулеметчиков (ПК), он находился до начала 1980-х годов).
В то же время АПС, обладающий лучшей точностью стрельбы, меньшей отдачей, меньшим подбросом ствола при стрельбе и значительно большей огневой мощью, чем ПМ, продолжал использоваться КГБ СССР и военнослужащими некоторых специальностей СпН ГРУ.
В связи с ростом уровня преступности во второй половине 1980-х – 1990-х годах МВД потребовалось более мощное оружие, чем состоявший на вооружении пистолет Макарова. Так как до этого «полицейских» малогабаритных пистолетов-пулеметов в СССР не выпускалось, в качестве временного решения проблемы оказался вполне приемлем пистолет Стечкина.
Впоследствии наряду с ним были приняты на вооружение пистолеты-пулеметы под тот же патрон 9×18, тем не менее проверенный «Стечкин» и в наше время сохраняет определенную популярность. После распада СССР пистолет применялся в ходе различных локальных конфликтов.