Ciao
Per prima cosa devi aggiungere una funzione che gestisca l'evento Click del button. Per farlo ti basta, dal designer, fare doppio click sul bottone, in questo modo viene creata la routine tuoButton_Click che viene chiamata ogni volta che viene premuto il Button.
A questo punto ti basta inserire in quel metodo il codice per aprire la pagina Web, che potrebbe essere così:
Process.Start("www.SitoDaAprire.it")
Luca