Регулярный текст

Вам нужно избежать символа $, поскольку он зарезервированный символ означает конец строки/ввода в соответствии с контекстом.

Вот как:

String[] input = {
            "$_globalVariables/ns:GlobalVariables/VARIABLENAME/ESB/System",
            "$_globalVariables/ns:GlobalVariables/VARIABLENAME2/ESB/System",
            "$_globalVariables/ns:GlobalVariables/VARIABLENAME3/ESB/System" };
Pattern p = Pattern.compile("^\\$_globalVariables/ns:GlobalVariables/(.+?)/ESB/System");
for (String s: input) {
    Matcher m = p.matcher(s);
    if (m.find()) {
        System.out.println("Found: " + m.group());
        System.out.println("\t with variable name: " + m.group(1));
    }
}

Вывод

Found: $_globalVariables/ns:GlobalVariables/VARIABLENAME/ESB/System
 with variable name: VARIABLENAME
Found: $_globalVariables/ns:GlobalVariables/VARIABLENAME2/ESB/System
     with variable name: VARIABLENAME2
Found: $_globalVariables/ns:GlobalVariables/VARIABLENAME3/ESB/System
     with variable name: VARIABLENAME3

Заметки

• $ - двойное экранирование в Pattern → \\$
• Использование 1+ неохотного квантификатора вместо 0+ неохотного квантификатора для группы 1: мы предполагаем по крайней мере один символ в имени переменной, правильно?
• API Pattern Java здесь