1936年フランス・パリ北部。下町の人々から愛されるミュージックホール・シャンソニア劇場は、不況のあおりで借金がかさみ、不動産屋ギャラピア（ベルナール・ピエール・ドナデュー）に取り上げられて閉鎖となる。劇場で長く働いてきたピゴワル（ジェラール・ジュニョ）の一人息子ジョジョ（マクサンス・ペラン）は、ラジオばかり聞いている“ラジオ男”（ピエール・リシャール）からアコーディオンを習い、お金のない父親を気遣い、街角でアコーディオン弾きを始める。だが、その演奏を警察は“未成年の物乞い”だとしてジョジョを補導、遠い街で再婚した母親が引き取ることになった。ピゴワルは仲間のミルー（クロヴィス・コルニアック）やジャッキー（カド・メラッド）と共に劇場を取り戻そうと、オーディションに来た美しいドゥース（ノラ・アルネゼデール）の歌声を頼りに、再び公演を始める。ところが、彼女の歌以外は人気が無く、有名な音楽プロデューサーの目に留まったドュースは、より大きな舞台を求めて劇場を去っていく。そんな中、失意に沈むピゴワルの前に、突然ジョジョが現れた。ミルーとジャッキーが、彼の母親を説得し連れて来たのだ。一方、その昔、劇場の指揮者で作曲家だった“ラジオ男”のおかげで母親が歌手として活躍していたと知って、ドゥースが戻ってくる。再公演は大成功。パリ中の人々がシャンソニア劇場に押し寄せた。しかし、フランス革命記念日の前夜、ギャラピアの手下によってジャッキーが殺される。ギャラピアに仕返しに行くミルーを追ったピゴワルは、ギャラピアに銃を突きつけられたミルーを発見、咄嗟に落ちていた銃を拾い、銃口をキャラピアへ向けた……。1946年。刑期を終えて出所したピゴワルがシャンソニア劇場に向かうと、満員御礼で沸き立つ劇場のざわめきが扉から漏れ聞こえてくる。劇場の看板には“ジョー・ピゴワルとその楽団”と静かに、誇らしげに掲げられているのだった。