Фильм рассказывает подлинную историю популярного немецкого ансамбля «Comedian Harmonists». Коллектив начал свою творческую деятельность в 1927 году в Германии и имел большой успех не только в Европе, но и в Америке. Музыкальные композиции представляют собой аранжировки народных и классических произведений, которые до сих пор узнаваемы, любимы и популярны. Из-за возрастающих националистических настроений в Германии, в 1935 году группа распалась на две части, на пике своей популярности.

Освободившись из тюрьмы за убийство своей супруги, бывший грузчик Франц Биберкопф начинает чувствовать себя одиноким и полностью беззащитным, он начинает считать, что настоящее «наказание» только начинается.