Выполнить ручной откат в среде JTA в EJB без сохранения состояния

Вы можете аннотировать ваше проверенное исключение с помощью аннотации: @ApplicationException (rollback = true).

например:

@ApplicationException(rollback = true)
public class MyApplicationException extends Exception{
}

Это будет означать текущую транзакцию для отката.

Редактировать:

Я не хочу использовать исключение для выполнения отката, потому что я не могу ответить с кодом состояния http

Другой альтернативой является явно отмечать транзакцию для отката с помощью метода SessionContext.setRollbackOnly(). Я не знаю вашего дизайна приложения, но примером может быть:

@Stateless
public class MyBean(){

    @Resource
    private SessionContext ctx;

    public void doSomething() {
        try {
            //code that sends a mail
        } catch (Exception e) {
            ctx.setRollbackOnly(); //the transaction will not commit
           //log exception

        }
    }
 }