郡山市の高校音楽教師新田司、レコード店の娘渡部昭子、病院長の宮原、国鉄郡山工場に勤める楠たちのグループが主催する音楽会は、地元の暴力団橋本組に挨拶しなかったことを理由にいやがらせを受け、計画は流れてしまう。同じ頃、新田が顧問をする高校の音楽部員が手にしていたトランペットとホルンが不良少年太田圭介に奪い取られるという事件が起きた。一方、郡山警察署の暴力坦当の黒住、矢部刑事は、東京の大暴力団一心会が郡山に進出するとの情報を掴み、これを阻止することと、地元暴力団橋本組を撲滅する為に、行動を開始した。橋本組も一心会進出に対抗すべく兵力温存と、警察の追求から逃れる為に、圭介に高校生の楽器を返しにやらせた。その頃、大幅な赤字をだした音楽会の反省会が開かれ、新田、昭子宮原、楠らは前回の赤字を埋めるために、より大規模な音楽会を催すことを決定した。数日後新田は研修会に出席するため上京したが、歩行者天国で賑わう池袋の街頭で、山本直純の指揮による合唱と吹奏楽の大合唱に通行人も加わっているのを目撃し、感動した。彼はその足で山本直純に郡山での企画を申し入れ、快諾してもらった。この知らせを受けた昭子たちは喜んだが、それは同時に一心会の郡山進出の口実を与え、橋本組を刺激することになった。やがて山本直純が郡山にやってきたが、橋本組は一心会に殴り込みをかけ、音楽会へのいやがらせも激しさを増してきた。橋本組の手先である圭介は、一度は合唱によって立ち直るかに見えたが、説得する昭子に襲いかかり、これを目撃した街の人たちに追いつめられ、断崖から落ちて死んでしまう。火葬場からの帰り道、新田は、骨箱を持った風俗娘のユカリが“生きているなら”を歌うのを聞いて驚く。生前圭介がよく歌っていたのを聞いて憶えたという。何か新田の心に音楽会への灯が再燃するものがあった。しかし、この事件を境に昭子、宮原、楠も各々の理由で脱落していった。新田は孤立奮闘した。その新田の行動に、朝日新聞郡山支局の茂山記者は、今こそ全市民を挙げて暴力団と対決すべきたというキャンペーンを起こした。“暴力か音楽か。東北のシカゴから東北のウィーンへ”の見出しの記事で街の人たちは立ち上った。昭子も宮原も楠も再び帰ってきた。どの職場でもどの工場でもコーラスが流れ始めた。その頃、一心会は東京から郡山に大量の組員を派遣。橋本組との対決も頂点に達した。黒住、矢部の奔走も空しく市街戦が演じられ、善良な市民が死亡した。郡山市長は、この事態に暴力追放都市を宣言、福山県警の応援を求めて二つの暴力団員を根こそぎ捕縛した。そして音楽会の公民館会場は人で溢ふれた。山本直純の指揮のもと新田も、昭子も、宮原も、男も女も、老人も子供も“生きているなら”を歌う。大合唱は、晴れ渡った秋空に広がっていく。