Ciao
Il Form non lo puoi usare come controllo figlio (a meno di usare un MdiContainer, ma non si usa comunque la proprietà Controls)
Per mostrare un Form devi usare il metodo Show o ShowDialog:
Form3 newForm = new Form3();
newForm.Show();
// - oppure -
newForm.ShowDialog();
La ShowDialog crea una finestra modale, cioè la finestra chiamante resta bloccata finchè quella chiamata non viene chiusa.
Luca