Twoje bieżące zapytanie jest sprzeczne, ponieważ pojedynczy wiersz nigdy nie pasuje do klauzuli WHERE. Zakładam, że chcesz czegoś takiego.
SELECT product_id
FROM table
WHERE (key='free_shipping' and value='yes') or (key='price' and value='5')
GROUP BY product_id
HAVING COUNT(DISTINCT key) = 2