ある夜、ストックホルムに入院中のニーマン警部が殺された。犯行現場に到着したマルティン・ベック刑事（カルル・グスタフ・リンドステット）は部下のエイナル・ルン（ホーカン・セルネル）とグンヴァルド（トーマス・ヘルベルク）らと共に早速取り調べを開始した。ベックとルンは、被害者であるニーマン警部夫人（ビルギッタ・ヴァルベルイ）に事情を聞きに行くがこれといった手掛りを得られず、ニーマン警部の家を去る。しかし、調べるうちにベックはニーマン警部が勤務先のクララ署では評判が悪く、悪名高い人物であったことを知る。そしてニーマンと昔軍隊時代に共に過ごしたというコルベリ刑事（スヴェン・ヴォルテル）は、ニーマン警部の事を憎々しげに語り、一方、ニーマンの部下としてかって行動を共にしていたハルト巡査（Ｃ・Ａ・ヘイクネルト）は、ニーマンの事を立派な人物だったとほめるのだった。ルンは、ニーマンに反感を持っている人々を調査し、何人かに的をしぼった。そして以外にもエリクソン（イングバル・ヒルドバル）という元巡査の男が浮かびあがる。ベックとルンはエリクソンが射撃の名手でしかも、銃をもったまま家を出たきりであることをつきとめ、ほぼエリクソンが犯人であることを確信する。その頃、再び事件が起こり、警官が二人狙撃される。犯人はビルの屋上にたてこもり、警官たちを目がけて次々に発砲した。それは、やはりエリクソンだった。警察のミスから、愛する妻を失なったエリクソンは復讐の鬼と化して、警察を攻撃するのだった。ビルの周囲は交通止めになり、ヘリコプターまでが出動してあらゆる手を下すが、すべて失敗に終わってしまう。ベックも胸を撃たれ負傷する。しかしグンヴァルドの努力で、民間人の一人とハルトを連れて決死の乗り込みに成功、エリクソンはついに逮捕されるのだった。