Spójrz na Dokumentację PDO
Możesz zmienić obsługę błędów na PDO::ERRMODE_SILENT lub PDO::ERRMODE_WARNING
$dbh = new PDO($dsn, $user, $password);
$dbh->setAttribute(PDO::ATTR_ERRMODE, PDO::ERRMODE_SILENT);
Lub użyj set_exception_handler i zdefiniuj procedurę obsługi dla wszystkich swoich wyjątków.