Ciao,
scusa ma questa domanda cosa c'entra con la Reportistica 
?
Mi sa che hai sbagliato stanza, posta nella stanza Win Application.
Cmq sia, la risposta è semplice, quando carichi l'immagine verifichi la grandezza del file su disco usando la classe "FileInfo" che nel costruttore riceve il path, poi guardi la sua proprietà "Lenght" che ti dice appunto la grandezza del file, qualcosa tipo:
Dim finfo = new FileInfo(...PercorsoFile...)
if finfo.Lenght > ...
cmq sia, non c'è un filtro di questo genere nell'OpenFileDialog, devi appunto usare questa classe e tramite codice invalidare la scelta dell'immagine...
Ciao.
Matteo Raumer
[MCAD .net, MVP Visual C#]
http://blogs.dotnethell.it/freeteo