La historia del museo comenzó con la creación de la Asociación de Arte de Montreal, cuya misión era inculcar el gusto por las bellas artes al público en general.
Durante décadas, este grupo fue itinerante y carecía de locales para almacenar las obras que coleccionaba o que le eran prestadas. En 1877, un hombre de negocios de Montreal donó cuadros, estatuas de bronce y 8.000 dólares a la asociación, con la condición de que se construyera un museo en un plazo de 3 años. Dos años más tarde, el Gobernador General de Canadá inauguró la galería de arte de la Asociación de Arte de Montreal, un edificio especialmente diseñado para albergar una colección de arte.
A principios del siglo XX, una nueva donación de obras de un coleccionista obligó a la galería a pensar en un espacio más amplio. Tras dos años de obras, el nuevo museo abrió sus puertas en la calle Sherbrooke, en su emplazamiento actual. Hoy en día, el Musée des Beaux-Arts es uno de los museos de arte más visitados de Canadá.