Jedynym niezawodnym sposobem na to będzie użycie tabeli tymczasowej, ale nie będzie to dużo SQL:
select * into #tmp from bad_table
truncate table bad_table
alter bad_table alter column silly_column int
insert bad_table
select cast(silly_column as int), other_columns
from #tmp
drop table #tmp