Sau những bê bối mà mình mắc phải, Hoffa bị kết án và bị giam tại nhà tù Lewisburg Federal, trung tâm thành phố Pennsylvania. Trong thời gian Hoffa ở tù, kẻ kế nhiệm luôn tìm mọi cách xóa hết đường trở lại của ông ta.
Vào ngày14/2/1970, trên nóc nhà tù Lewisburg ở trung tâm tiểu bang Pennsylvania xuất hiện một chiếc máy bay kéo theo một biểu ngữ mang dòng chữ “Chúc mừng sinh nhật Jimmy!”. Đây là ngày sinh nhật lần thứ 57 của Jimmy Hoffa. Lúc này, ông ta đã ngồi tù được khoảng 5 năm.
Ngày hôm đó, Hoffa đã nhận được rất nhiều thiệp mừng sinh nhật từ các nhân viên và quan chức của nghiệp đoàn Teamsters. Tuy nhiên, sự ủng hộ mà Hoffa nhận được qua thư chỉ là những lời dối trá.
Trong thời gian Hoffa ở tù, kẻ kế nhiệm luôn tìm mọi cách xóa hết đường trở lại của ông ta.
Trong khi đó, tại nghiệp đoàn người kế nhiệm của Hoffa là Frank Fitzsimmons, lại đang lấy được lòng vô số các thành viên.
Fitzsimmons có tính cách điềm đạm, còn Hoffa thì thích gây hấn. Hơn nữa, Fitzsimmons còn là bạn của Tổng thống Nixon và là một vị khách thường xuyên của Nhà trắng. Bề ngoài đáng kính trọng của Fitzsimmons là một vỏ bọc hoàn hảo để che giấu hành vi tham nhũng của ông này tại nghiệp đoàn Teamsters.
Còn Hoffa lúc này chỉ là một tù nhân, chứ không còn là một người hùng khiến người ta đáng ao ước nữa. Dường như lợi thế đang nghiêng về Fitzsimmons nhiều hơn.
Tuy nhiên, Hoffa không hề nản chí. Ông ta chờ cho đến khi được ra tù sẽ mở chiến dịch chống lại Fitzsimmons, quyết tâm giành lại chiếc ghế quyền lực đã từng có.
Hoffa vẫn tự tin nghĩ rằng ông ta được “dân anh chị” ủng hộ, vì vậy giới này sẽ tìm cách đưa ông ta trở lại nghiệp đoàn. Tuy nhiên, trong thời gian ngồi tù, Hoffa đã cố gắng hạn chế liên lạc với các băng nhóm tội phạm bên ngoài để tránh bị ảnh hưởng. Nhưng Hoffa đâu biết rằng ở bên ngoài mọi người đang muốn loại bỏ ông ta.
Cùng thời gian này, Anthony "Tony Pro" Provenzano - đồng bọn cũ của Hoffa cũng bị bỏ tù tại Lewisburg do tội tống tiền.
Provenzano vốn là một trùm sò trong tổ chức tội phạm Genovese, đồng thời cũng là Phó chủ tịch nghiệp đoàn Teamsters. Tên này kiểm soát chi nhánh tham nhũng nhiều nhất ở Mỹ, chi nhánh 560 ở Union City, tiểu bang New Jersey, thuộc Teamsters.
Vị trí của Provenzano tại nghiệp đoàn là do Hoffa gây dựng lên. Và cũng từ đây chi nhánh 560 đã trở thành “túi tiền” riêng của Provenzano, giúp hắn dễ dàng tiếp cận các khoản quỹ của nghiệp đoàn để phục vụ cho những mục đích phi pháp của bản thân.
Ở trong tù, lúc đầu Hoffa và Provenzano là những người bạn thân thiết. Provenzano thực sự là một đại ca tại nhà tù Lewisburg, vì thế Hoffa luôn được bảo vệ. Nhưng theo thời gian, mối quan hệ giữa hai người xấu đi.
Sau khi Hoffa và Provenzano mãn hạn tù, có người khẳng định đã chứng kiến cuộc đối đầu giữa hai người tại một cuộc gặp tình cờ ở sân bay. Trong cuốn “Tại sao Jimmy Hoffa phải chết”, tác giả Lester Velie viết: “Hoffa và Provenzano đã sử dụng nắm đấm để nói chuyện với nhau, Hoffa đã đập vỡ một cái chai trên đầu Provenzano”.
Và khi quay trở lại nghiệp đoàn, Hoffa nhất quyết phản đối không cho Provenzano tiếp tục kiểm soát chi nhánh 560 và ngược lại, Provenzano phản đối mong muốn trở lại chức chủ tịch Teamsters của Hoffa. Họ trở thành “cái gai” trong mắt nhau.
Anthony "Tony Pro" Provenzano
Trong giới xã hội đen, ai cũng biết Provenzano là kẻ nổi danh trong việc “bẻ gãy những cái gai” trong mắt mình. Năm 1963, một nhân chứng trong phiên tòa xử tội tống tiền của Provenzano đã bị bắn chết ngay trước khi anh ta ra tòa để làm chứng.
Năm 1972, một người đàn ông liên quan đến những hoạt động kinh doanh phi pháp với Provenzano đã biến mất một cách bí ẩn. Hay Anthony Castellito - thủ quỹ chi nhánh 560 dưới thời Provenzano, anh ta bị điều tới một vị trí xa trung tâm New York. Và sau đó, Castellito cũng biến mất và không bao giờ được tìm thấy.
Tuy nhiên, không có 1 lý do gì để nghi ngờ Provenzano, bởi vào thời điểm Castellito mất tích thì Provenzano đang ở Florida. Kịch bản này cũng giống hệt như trong vụ án Hoffa mất tích.