Naprawdę łatwym sposobem na to jest dodanie UNIQUE indeks w 3 kolumnach. Kiedy piszesz ALTER oświadczenie, dołącz IGNORE słowo kluczowe. Tak:
ALTER IGNORE TABLE jobs
ADD UNIQUE INDEX idx_name (site_id, title, company);
Spowoduje to usunięcie wszystkich zduplikowanych wierszy. Jako dodatkową korzyść, przyszłe INSERTs które są duplikatami, wystąpią błędy. Jak zawsze, możesz chcieć zrobić kopię zapasową przed uruchomieniem czegoś takiego...