Tak, parametry połączenia powinny być zdefiniowane w <connectionStrings>
sekcji web.config właśnie z tego powodu - abyś mógł łatwo zmienić ustawienie tak, aby wskazywało na inne środowisko bazy danych podczas wdrażania aplikacji w innym środowisku, bez konieczności ponownej kompilacji kodu.