Позволить потоку SwingWorker спать

Используйте службу ScheduledExecutorService:

ScheduledExecutorService ses = Executors.newSingleScheduledExecutorService();
ses.scheduleAtFixedRate(new Runnable() {
    @Override
    public void run() {
        doInBackground();
    }
}, 10, TimeUnit.SECONDS);

И избавиться от Thread.sleep и цикла while(true):

protected Void doInBackground() throws Exception {
    comboBoxModel.removeAllElements();
    Channel feedChannel = webResource.path(role.role())
                                     .accept(MyMediaType.APPLICATION_RSS)
                                     .get(Rss.class).getChannel();
    List<Item> itemList = feedChannel.getEntryList();
    for(Item item : itemList) {
        String itemLink = item.getLink();
        if(!feedItemMap.containsKey(itemLink)) {
            comboBoxModel.addElement(new Pair<>(itemLink, true));
            feedItemMap.put(itemLink, true);
        }
    }
}

Исполнитель swing (на моей машине отладки) запускает только 10 потоков для всех SwingWorkers. Это означает, что если 10 задач спят, больше никаких задач не может быть начато до тех пор, пока не вернется. однако вы можете отправить SwingWorker любому исполнителю для обработки вместо того, чтобы полагаться на исполнителя по умолчанию.

В вашем коде есть еще одна проблема, когда вы обращаетесь к объекту gui из другого потока, вместо этого вы должны publish пару и использовать метод процесса для его обработки:

    if(!feedItemMap.containsKey(itemLink)) {
        publish(itemLink);
    }


public void process(List<String> strings){
    for(String str: strings){
        comboBoxModel.addElement(new Pair<>(str, true));
        feedItemMap.put(str, true);
    }
}