Pobierz ostatni wiersz wstawiony z Uniqueidentifier, który nie jest TOŻSAMOŚCIĄ

To trochę więcej pracy, ale dla swoich wstawek, nawet jeśli masz już wartość DEFAULT w ApplicationID, możesz to zrobić:

DECLARE @MyIdentity uniqueidentifier;
SET @MyIdentity = NewID();
INSERT INTO dbo.aspnet_Applications
(
    ApplicationName,
    LoweredApplicationName,
    ApplicationId, 
    Description
)
VALUES
(
    'x',
    'x',
    @MyIdentity,
    'Dummy text'
);

SELECT @MyIdentity

Zasadniczo GUID ustawiasz wcześniej, więc już wiesz, co będziesz wstawiać.