1943年、ナチス・ドイツ占領下のフランス。ジプシー出身のギタリスト、ジャンゴ・ラインハルト(レダ・カテブ)は、パリでもっとも華やかなミュージックホール、フォリー・ベルジェールに出演、その華麗なパフォーマンスで満員の観客を沸かせていた。会場にはジャンゴの愛人ルイーズ(セシル・ドゥ・フランス)の姿もあった。そんななか、彼の才能に惚れ込んだナチス官僚がドイツでの公演話を持ちかけてくる。ベルリンのコンサートには宣伝相のゲッベルスが来場し、ヒトラー総統も来るかもしれないという。自分がナチスのプロパガンダに利用されようとしていることも意に介さないジャンゴは「俺たちジプシーは戦争などしない。俺はミュージシャンで演奏するだけだ」とうそぶくが、ドイツ軍の動向に精通しているルイーズは、フランスの国内外でジプシーへの弾圧が行われている事実を伝え、家族全員でスイスへ逃亡するよう促す。ルイーズの説得によって事の重大さを知ったジャンゴは、年老いた母親ネグロス(ビンバン・メルスタイン)、妊娠中の妻ナギーヌ(ベア・パーリャ)を伴いスイスと国境を接するトノン＝レ＝バンに移り住む。レマン湖畔の空き家を借りたジャンゴ一家は、近くにあるジプシーのキャンプで親戚に歓待され、心安らぐひとときを過ごすが、この地もドイツ軍の支配下にあった。船でスイスに渡る計画は先送りされ、ジャンゴは過酷な現実に直面する。ドイツ軍と警察によってジプシーの活動は厳しく制限、食料などの生活物資も乏しい。やむなくジャンゴは食いぶちを稼ぐために即席バンドを結成し、素性を隠して地元のバーで演奏を始めるが、ずっと可愛がっていた猿のジョコが何者かに殺されてしまう。さらにドイツ軍に住みかを徴収され、ジプシーのキャンプに身を寄せるはめになる。そんな折、バーでドイツ軍の取り締まりを受けたジャンゴは司令部に連行され、近々催されるナチス官僚が集う晩餐会での演奏を命じられる。ジャンゴの身を案じてやってきたルイーズも「お願いだから弾いて。逆らえないわ」と告げるのだった。警察から公道の往来とキャンプを禁じる通達が出され、ジプシーへの迫害が激しさを増すなか、ひとりの神父と知り合ったジャンゴは、彼の勧めに従い、教会のパイプオルガンを使って作曲に勤しむ。そこでジャンゴが奏でる音色には、理不尽に虐げられるジプシーの苦悩と哀しみが色濃くにじんでいた。やがてジャンゴはレジスタンスの男女から、晩餐会の夜、負傷したイギリス人兵士をこっそりスイスへ逃がすよう依頼される。ドイツ軍の目を逸らすため、ジャンゴに晩餐会で演奏を行ってほしいという……。