Chùa tọa lạc trên bãi Ngư Đại - một gò đất cao thuộc làng Nghi Tàm, phường Tây Hồ. Gò đất này người Tây Hồ vẫn gọi là gò Hành Cung hay gò Cung. Sở dĩ có tên gọi lịch sử này vì Lý Thánh Tông cho xây cung Quan Ngư (xem cá) tại đây. Sau đó Công chúa Từ Hoa - con gái vua Lý Thần Tông xin ra mở trại dâu nuôi tằm mới đổi là trại Tàm Tang, lập cung Từ Hoa trên đất này. Thời Trần đổi trại Tàm Tang thành trại Tích Ma, rồi phường Tích Ma. Cuối thời Trần nhân nền cũ của cung Từ Hoa dân địa phương lập ngôi chùa gọi là Chùa Đống Long. Thời Lê đổi phường Tích Ma thành phường Nghi Tàm. Chính thời kỳ này chùa cũng đổi tên là Chùa Đại Bi. Năm Cảnh Hưng thứ 31 (1770) Trịnh Sâm trùng tu chùa đổi tên là Chùa Kim Liên.
Giá trị đặc biệt của chùa Kim Liên thể hiện kiến trúc nghệ thuật đặc sắc và độc đáo. Chùa làm theo kiểu chữ tam, một lối kiến trúc tôn giáo cổ truyền. Ở miền bắc nước ta chỉ có hai ngôi chùa làm theo kiểu đó là chùa Kim Liên và chùa Tây Phương.
Chùa có mái chồng diêm, hai tầng tám mái, mái lợp ngói mũi hài cổ, tường xây mộc không trát, các đầu tường đều có cửa sổ tròn theo chữ nhà Phật là sắc sắc, không không. Đặc biệt, các họa tiết trang trí trên kiến trúc được thể hiện với các đề tài phong phú và đa dạng như trúc lão, rồng phượng, văn mây, cây ngô đồng, tang trống, nổi bật và tập trung hơn cả là hình tượng bông hoa sen nở trên mặt nước được thể hiện rất tỉnh xảo và sống động, kỹ thuật chạm khắc ở đây đạt đến trình độ điêu luyện. Chùa còn lưu giữ được tòa Tam quan duy nhất của miền Bắc nước ta làm theo kiểu "Tam sơn - Tứ trụ”. Đây là sự kế thừa và phát huy nghệ thuật kiến trúc các đời trước được sử dụng và đặt đúng chỗ. Kiến trúc nghệ thuật ngôi chùa nằm trong nền nghệ thuật hoàn chỉnh thời Lê Trịnh, phản ánh quá trình phát triển lịch sử nghệ thuật dân tộc.
Nhìn từ xa, chùa Kim Liên có kiến trúc ba tòa đồng trục hoành, tượng trưng cho sự hòa hợp Trời - Đất - Con người. Với kỹ thuật xây và lát gạch mộc, thêm nữa là những vòng cửa pháp luân “Sắc - Không” và những tàu đao mái chồng diêm bay bổng, chùa Kim Liên gợi suy cảm về ý nghĩa nhiệm mầu giản dị của giáo lý Thiền, phổ độ chúng sinh.
Chùa Kim Liên mang vẻ đẹp riêng biệt nổi tiếng là một ngôi chùa đẹp nhất Hà Nội. Một ngôi chùa cổ ần mình trong làn khói tỏa cành sương của Tây Hồ, sánh với chùa Tây Phương dựng trên núi cao, đắm mình trong năng vàng ban mai, một thủy, một sơn nhưng về mặt cấu trúc, trang trí nghệ thuật chỉ khác nhau đôi chút về kích thước còn lại thì giống nhau y hệt. Toàn bộ phong cảnh bên ngoài, kiến trúc độc đáo bên trong và những tấm bia đá, những pho tượng rất mỹ thuật đã làm tăng giá trị của chùa và từ lâu là đối tượng nghiên cứu, tham quan của các nhà sử học, mỹ thuật kiến trúc, của những người am hiều di tích lịch sử trong nước và nước ngoài.