Phạm Bằng là người được sinh ra và lớn lên tại thủ đô Hà Nội. Từ nhỏ ông đã mất bố và ở với người mẹ luôn tần tảo nuôi 3 đứa con. Khi trưởng thành, ông muốn theo nghề diễn viên để mưu sinh thì mẹ ông đã rất là phản đối. Bởi vậy trong suốt quá trình hoạt động nghệ thuật của mình, ông chưa bao giờ được bà khen ngợi và cũng không mong bà sẽ đến rạp để xem mình biểu diễn.

Phạm Bằng đã trở thành sinh viên trường Cao đẳng Giao thông Công chính vào năm 1955. Trong quá trình học tập của mình, được bạn bè rủ rê và lôi kéo nên ông đã tham gia vào một số vở kịch. Biến cố ập đến với ông vào năm 1956, khi gia đình của ông thuộc diện tư sản cần cải tạo. Do đó ông đã phải nghỉ học khi mới học được năm thứ hai ở trường Cao đẳng Giao thông công chính.

Ở giai đoạn này ông đã tham gia đoàn kịch của nhà văn Nguyễn Huy Tưởng và nhà thơ Hoàng Cầm. Sau đó Nhà nước đã cho mở trường Đại học Sân khấu khóa 1 và tuyển sinh cho đoàn văn công Hà Nội. Sau đó Phạm Bằng đã đi ứng tuyển và được cả hai nơi nhận. Cuối cùng ông đã vào đoàn văn công Hà Nội. Ông chia sẻ, lúc ấy vào văn công không những vừa được diễn mà còn vừa được học, đặc biệt còn có thêm tiền phụ cấp gia đình, bởi lúc ấy nhà ông quá nghòe khó và ông còn chưa có việc làm khi đã có vợ. Có thể nói vào tháng 12 năm 1959, ông đã chính thức tham gia vào Đoàn văn công Hà Nội. Đây là một đoàn có sự tổng hợp về các loại hình ca nhạc, kịch nói, múa, cải lương, xiếc, chèo...

Vào năm 1964 đoàn kịch Hà Nội và các đoàn chèo, cải lương... đã bắt đầu được tách ra và đi theo con đường phát triễn riêng của mình. Lúc này Phạm Bằng đã được đạo diễn của đoàn kịch Hà Nội mời tham gia vào các vở diễn. Và trong giai đoạn này ông đã bắt đầu nổi tiếng bởi các vai phản diện. Khi đạo diễn Trần Hoạt bắt đầu sáng tác các tác phẩm kịch hài để đưa vào cuộc sống bình dị nhưng không hề kém phần sâu sắc thì Phạm Bằng cũng tham vào một số vai diễn. Trong đó có một câu nói của đạo diễn Nguyễn Đình Nghi về nghiệp diễn mà ông vẫn luôn tâm niệm, đó là những người đóng vai bi khi chuyển sang đóng vai hài thì thường rất giỏi.

Trong giai đoạn này Phạm Bằng đã chuyển sang đoàn kịch nói Trung ương. Khả năng đóng hài của ông đã được giáo sư Đình Quang phát hiện ra. Còn thầy Trần Hoạt đã từng nhận xét với ông, cậu rất có tương lai đóng hài, đây là khiếu mà ông trời cho, tuy không thể mở lớp diễn viên hài nhưng người làm diễn viên vẫn cần phải có cho mình một trình độ văn hóa cao, sâu và tư duy vững. Đối với Phạm Bằng, trong mỗi vai diễn của mình ông đều đọc trọn kịch bản để nắm bắt được hết các mối quan hệ của nhân vật, có như thế thì ông mới yên tâm diễn.

Từ khi vào nghề trong khoảng thời gian chục năm, cuộc sống của người nghệ sĩ này rất vất vả. Nhưng sau khi đã "đứng vững" trên sân khấu, đối với anh em ông vẫn truyền lại nghề chính kịch của mình và bắt đầu dạy dỗ hậu bối.

Với Phạm Bằng, nơi đã đưa ông tới gần với công chúng trên khắp cả nước chính là Chương trình Gặp nhau cuối tuần. Nhờ đó, từ năm 2006 đến 2010 ông đã được đi diễn liên tục.

Ngoài ra ông còn được người hâm mộ nhớ đến quán bánh trôi tàu ở địa chỉ 30 Hàng Giầy, thủ đô Hà Nội. Nhưng do đợt ốm vào năm 2012 đến năm 2013 thì rất tiếc là ông đã nghỉ bán.