Картину должен был снимать Джон Г. Эвилдсен («Рокки»), но он выбыл из проекта незадолго до начала сьемок из-за разногласий с продюсером Марти­ном Брегманом («Собачий полдень», «Море любви», «Лицо со шрамом», «Путь Карлито»). В итоге режиссером фильма стал Сидни Люмет («12 раз­гневанных мужчин», «Собачий полдень»).
Фильм снимали в 104 различных местах, распо­ложенных почти во всех районах Нью-Йорка.
Съемки проходили в обратном хронологическом порядке. Сначала Аль Пачино снялся в сценах, где у него длинные волосы и борода; затем, в каждом из эпизодов ему их укорачивали. Это делалось для того, чтобы у зрителей создалось впечатление, будто волосы и борода у героя Ал Пачино отраста­ют естественным образом.
Аль Пачино так глубоко вжился в роль Фрэнка Серпико, что однажды, возвращаясь со съемок, оштрафовал какого-то водителя за превышение скорости.
Фрэнк Серпико поступил на службу в полицию Нью-Йорка 11 сентября 1959 года в возрасте 23 лет.