Si quelques dessins sont acquis dès le XIXe siècle, c'est en 1913 que le cabinet des dessins connaît un événement marquant : la donation de Grez qui compte 4.250 feuilles datant du XVIe au XIXe siècle et couvrant plusieurs écoles. Au fil des années, ce noyau s'est encore enrichi d'acquisitions, ainsi que de donations et legs, principalement d'artistes flamands. Compte tenu de l'origine néerlandaise de la collection, plus de la moitié du fonds appartient à l'école hollandaise illustrée par Hendrick Goltzius ou Jacques de Gheyn le Jeune, et dominée par la figure de Rembrandt (Homme debout au manteau ample et au chapeau large), incontestable virtuose du dessin.

L'important ensemble flamand comprend des œuvres de Pierre Bruegel l'Ancien (Prudentia), Frans Floris, Maerten de Vos, Jacob Jordaens (Pomone ou L'allégorie de la fécondité), David Teniers le Jeune etc. S'y ajoute l'album Errera, de réputation mondiale, qui rassemble plus de 140 dessins de paysages du début du XVIe siècle. Les écoles française et italienne sont représentées par Antoine Watteau (Trois études d'une dame au chapeau), Laurent de la Hyre, Federico Zuccaro, Giovanni Domenico Tiepolo et les quelque cent croquis réalisés par Remigio Cantagallina durant son séjour aux Pays-Bas en 1612-1613.

Le cabinet des dessins conserve plus de 6.000 oeuvres sur papier du XIXe siècle à nos jours. On y trouve des oeuvres belges et quelques grands noms d'écoles étrangères, en particulier de la France.

Pour le XIXe siècle, on citera les oeuvres romantiques très accomplies de Louis Gallait, les centaines de croquis réalistes, pages de carnets, superbes pastels ou aquarelles de Constantin Meunier, les oeuvres symbolistes majeures de Xavier Mellery, Fernand Khnopff (Une ville abandonnée) et Jean Delville, enfin des compositions remarquables de James Ensor. Pour les écoles étrangères, se distinguent Jean-Auguste-Dominique Ingres, Jean-François Millet, Odilon Redon (Christ) ou Vincent Van Gogh (Marine aux Saintes-Maries-de-la-Mer). Léon Spilliaert occupe une place importante dans la transition du symbolisme vers l'expressionnisme, après James Ensor.

Les oeuvres sur papier seront de plus en plus prisées par les artistes tout au cours du XXe siècle. Ainsi en sera-t-il du sculpteur George Minne, des peintres Constant Permeke et Frits Van den Berghe ou de Rik Wouters aux talents multiples. Parmi les représentants de la première génération abstraite, on retiendra Joseph Peeters, Paul Joostens ou encore Félix De Boeck. Parallèlement, le surréalisme belge est très largement représenté au sein de la collection par les dessins et gouaches de René Magritte, les collages de E.L.T. Mesens, l'important ensemble d'Armand Simon et les images souvent oniriques de Paul Delvaux.

La deuxième génération abstraite, qui ouvre la seconde moitié du siècle, est représentée notamment par Gaston Bertrand, Jules Lismonde ou Jo Delahaut tandis que le mouvement Cobra l'est largement par Christian Dotremont et surtout par un fonds très généreux de Pierre Alechinsky (Journal déplié). Henri Michaux illustre lui les rapports entre littérature et signe. Hors Belgique, relevons les noms de Paul Klee, Marc Chagall, Pablo Picasso, Mark Tobey, Cy Twombly, David Tremlett ou Giuseppe Penone.