Как изменить RegExp, чтобы избежать последней точки в URL

Если вы правильно поняли, оскорбительный случай - это второе совпадение в вашем примере, в котором есть. на и в матче. С регулярным выражением PCRE можно было легко решить это с помощью lookbehind assertion (?<!\.):

((\w*?)((:\/\/)|www|\w\.{1}\w{2,})[^"<\s]+(?<!\.))(?![^<>]*>|[^"]*?<\/a)

К сожалению, это не работает в (текущем) JavaScript regex engine. В качестве альтернативы мы можем использовать (?:(?!avoid).)+ Шаблон, чтобы исключить добавление точки перед вашим внутренним все, но шаблон [^"<\s]+, однако он становится немного беспорядочным, так как у вас есть использовать несколько чередований, отсортированных по длине (длинный до коротких), для учета случая, когда есть окончательный . before <|"|\s:

((\w*?)((:\/\/)|www|\w\.{1}\w{2,})(:?(?!\.\s|\s|\."|"\.<|<).)+)(?![^<>]*>|[^"]*?<\/a)

const regex = /((\w*?)((:\/\/)|www|\w\.{1}\w{2,})(:?(?!\.\s|\s|\."|"\.<|<).)+)(?![^<>]*>|[^"]*?<\/a)/g;
const str = 'djfhjkshd fjkshkdjfhsjkdhfjk jdsfh ksjdfksd fkdsf dkfh kjh<br>You can open your link here: https://testask.com/item/45e20490-2b86-4b6a-8772-5ed96f64de52. dsjfklj skldjfklsdjfkl. dsjfjshdfjk skdhfshdfj skdhfjshfjsahfjhasjfh shfk.<br>sdkfhklsdjf kljsdklf kdsljfkljafkljkl .';
let m;

while ((m = regex.exec(str)) !== null) {
    // This is necessary to avoid infinite loops with zero-width matches
    if (m.index === regex.lastIndex) {
        regex.lastIndex++;
    }  
    console.log(m[0]);
    // The result can be accessed through the 'm'-variable.
    //m.forEach(match => {
    //    console.log('Found match: ${match}');
    //});
}

Однако самое простое решение - просто обрезать конечную точку.