Để giải tỏa cơn giận dữ, Rifkin bắt đầu có kế hoạch giết nạn nhân đầu tiên của mình.
Khoảng 10h tối một ngày tháng 3, Rifkin tới Manhattans để tìm kiếm một gái mại dâm cho mình, hắn chọn một cô gái trẻ tên là Susie. Susie nghiện ma túy nặng và đang cần tiền mua thuốc, Rifkin đưa Susie về nhà của mình.
Vài tiếng sau đó, Susie yêu cầu Rifkin đưa cô đi mua thuốc, thay vì giúp cô như đã hứa, Rifkin dùng một vật cứng đánh mạnh vào đầu Susie. Rifkin đánh liên tục cho đến khi hắn cảm thấy mệt hoàn toàn.
Lúc này, Susie vẫn còn sống và cố gắng phản kháng lại trước khi Rifkin bóp cổ cô cho đến khi chết hẳn. Sau khi giết Susie, Rinfkin nhét cái xác vào trong một chiếc túi rác loại lớn, lau sạch vết máu để xóa dấu vết và thản nhiên nằm ngủ như không có chuyện gì xảy ra.
Khi tỉnh dậy, hắn đưa xác của nạn nhân dọc theo đường xuyên bang New Jersey, hắn phi tang đầu và xác cô gái xấu số trong khu rừng Hopewell, rồi quay xe trở về Manhattan, trên đường đi hắn ném tay và những bộ phận còn lại của cô gái xuống sông. Rifkin tin rằng nạn nhân sẽ không bao giờ bị phát hiện. Tuy nhiên, hắn đã phạm một sai lầm.
Ngày 5/3/1989, một thành viên của câu lạc bộ chơi golfHopewell đã đánh bóng vào rừng. Trong quá trình lấy bóng, người đàn ông này đã nhìn thấy chiếc bình đựng đầu của Susie.
Đặc biệt, Rifkin vô cùng lo lắng khi biết rằng Susie đã nhiễm HIV. Sau đó, cảnh sát đưa nạn nhân vào danh sách 700 phụ nữ đã mất tích vì họ không nhận diện được tung tích nạn nhân. Vụ việc này chỉ được phát hiện khi Rifkin khai nhận vào năm 1993.
Nạn nhân Julie có bề ngoài xinh xắn và ăn mặc khá giống với thần tượng Madonna của Rifkin.
Hơn một năm sau, Joel Rifkin thực hiện vụ sát hại nạn nhân thứ hai của mình. Đó là vào cuối năm 1990, nạn nhân lần này cũng là một cô gái bán dâm tên là Julie. Cô gái này có bề ngoài xinh xắn và ăn mặc khá giống với thần tượng Madonna của Rifkin.
Rifkin lái xe đưa cô gái tới East Meadow và qua đêm tại đây. Vào khoảng 9h sáng hôm sau, Rifkin mới nhớ lại dự định và hắn đánh đập Julie bằng một cái chân bàn, sau đó, gã bóp cổ cô gái tới chết.
Sau khi nạn nhân đã chết, Rifkin tiếp tục cưỡng hiếp thi thể cô gái xấu số.
Để che giấu tội ác của mình, Rifkin đi ra ngoài mua xi măng. Như lần trước, hắn chia xác nạn nhân ra nhiều phần, bỏ đầu, tay và chân cô gái ra trộn cùng xi măng. Rồi Rifkin lái xe tới con sông gần đó, ném một phần thi thể trộn bê tông của nạn nhân xuống. Phần còn lại hắn đi xe quay ngược về Brooklyn và phi tang tại đó.
Những phần thi thể của Julie không bao giờ được tìm thấy vì Rifkin trộn xi măng và phi tang rất kỹ. Sau này, cảnh sát và tòa án chỉ có thể kết án Rifkin qua những gì hắn thú nhận và qua lời khai của người thân nạn nhân.
Sau hai lần giết người không bị phát hiện, Rifkin bắt đầu coi việc giết người là một việc cần thiết khi không thể giải quyết vấn đề theo ý mình.
Tháng 4/1991, Rifkin bắt đầu công việc kinh doanh cây cảnh của mình. Hắn thuê một khu khá rộng tại nhà trẻ địa phương để chứa những dụng cụ, thiết bị của mình.
Đây là nỗ lực lớn nhất mà Rifkin có thể làm, nhưng những ám ảnh về hai vụ giết người trước khiến Rifkin không tập trung được vào công việc.
Chính nơi Rifkin thuê để kinh doanh này, là nơi hắn xử lý xác những nạn nhân tiếp theo.
Nạn nhân Barbara Jacobs (31 tuổi)
Nạn nhân tiếp theo là Barbara Jacobs (31 tuổi), có tiền án về tội trộm cắp và mại dâm. Rifkin gặp Barbara, đưa cô về nhà và sau đó cũng giết hại cô như hai nạn nhân trước.
Nhưng xác Barbara không bị phi tang tại nhiều nơi. Hắn thả xác Barbara xuống một hố nước sâu gần nhà máy xi măng và không lâu sau đó một nhóm lính cứu hỏa trong khi làm nhiệm vụ đã phát hiện ra.
Các nhân viên điều tra kết luận, Barbara chết do dùng ma túy quá liều, Barbara được chôn tại nghĩa trang Potters. Không ai xác định được nguyên nhân chính xác và tìm ra hung thủ cho đến khi Rifkin thú nhận mình là hung thủ hai năm sau đó.
Rifkin liên tiếp ra tay với các nạn nhân nữ, chủ yếu là những gái mại dâm. Theo lời thú tội, trong năm 1992, hắn đã sát hại thêm 9 nạn nhân và có những nạn nhân hắn còn không thể nhớ được tên.