Как реализовать эффективные хэш-минусы с помощью Java HashSet

Well HashSet реализуется как оболочка HashMap в OpenJDK, поэтому вы не выиграете в использовании памяти по сравнению с решением, предложенным aRestless.

10-минутный эскиз

class HashCons<T> {
    T[] table;
    int size;
    int sizeLimit;
    HashCons(int expectedSize) {
        init(Math.max(Integer.highestOneBit(expectedSize * 2) * 2, 16));
    }

    private void init(int capacity) {
        table = (T[]) new Object[capacity];
        size = 0;
        sizeLimit = (int) (capacity * 2L / 3);
    }

    T cons(@Nonnull T key) {
        int mask = table.length - 1;
        int i = key.hashCode() & mask;
        do {
            if (table[i] == null) break;
            if (key.equals(table[i])) return table[i];
            i = (i + 1) & mask;
        } while (true);
        table[i] = key;
        if (++size > sizeLimit) rehash();
        return key;
    }

    private void rehash() {
        T[] table = this.table;
        if (table.length == (1 << 30))
            throw new IllegalStateException("HashCons is full");
        init(table.length << 1);
        for (T key : table) {
            if (key != null) cons(key);
        }
    }
}

Я не думаю, что это возможно с помощью HashSet. Вместо этого вы можете использовать какую-то Map и использовать свое значение как ключ и как значение. java.util.concurrent.ConcurrentMap имеет довольно удобный метод

putIfAbsent(K key, V value)

который возвращает значение, если оно уже существует. Однако я не знаю о производительности этого метода (по сравнению с проверкой "вручную" на неконкурентных реализациях Map).

Вот как вы это сделаете, используя HashMap:

class HashCons<T>{
    Map<T,T> map = new HashMap<T,T>();

    public T intern(T t){
        if (!map.containsKey(t))
            map.put(t,t);
        return map.get(t);
    }
}

Я думаю, что причина, по которой это невозможно с HashSet, довольно проста: для множества, если contains(t), это означает, что данный t также равен одному из t 'в наборе. Нет причин для возможности вернуть его (поскольку у вас уже есть).