mySQL 'gdzie nazwa NIE JEST' nie działa?

Nie używaj NOT IN z podzapytaniami. Ma złą semantykę, jeśli jakakolwiek wartość w podzapytaniu to NULL . W takim przypadku NOT IN nigdy nie ma wartości TRUE, więc w ogóle nie są zwracane żadne wiersze.

Zamiast tego użyj NOT EXISTS :

SELECT p.id, p.name
FROM players p
WHERE p.this = 1 AND 
      NOT EXISTS (SELECT 1
                  FROM players_online po
                  WHERE po.name = p.name AND po.this = 'that'
                 )
ORDER BY RAND()
LIMIT 3, 6;