Как сделать ассоциации на этом

Вы можете использовать полиморфную ассоциацию для ссылки на одну таблицу ИЛИ другую, проверьте модель ниже в соответствии с опубликованным изображением:

class BaseModel
    has_many :first_models
    has_many :second_models
end

class FirstModel
    belgons_to :base_model
    has_one :level_two_first_model
end

class LevelTwoFirstModel
    belgons_to :first_model
end


class SecondModel
    belgons_to :base_model
    has_many :final_first_levels, as: :referenceable, :dependent => :destroy
    has_many :final_second_levels, as: :referenceable, :dependent => :destroy
end

class LevelOneSecondModel
    belongs_to :referenceable, polymorphic: true
    has_many :final_first_levels
end

class LevelTwoSecondModel
    belongs_to :referenceable, polymorphic: true
    has_many :final_first_levels
end


class FinalFirstLevel
     belongs_to :LevelOneSecondModel
end

class FinalSecondLevel
   belongs_to :LevelTwoSecondModel
end

referenceable используется как клей между родительской таблицей и другими полиморфными ассоциациями (LevelOneSecondModel OR LevelTwoSecondModel)

NB:
Не забудьте добавить нижнюю строку в файлы миграции из 2-х дочерних таблиц, используемых в полиморфной ассоциации.

t.references :referenceable, polymorphic: true, index: true

Ссылка:
http://guides.rubyonrails.org/association_basics.html#polymorphic-associations