В чем разница между tensor.permute()
и tensor.view()
?
Кажется, они делают то же самое.
In [12]: aten = torch.tensor([[1, 2, 3], [4, 5, 6]])
In [13]: aten
Out[13]:
tensor([[ 1, 2, 3],
[ 4, 5, 6]])
In [14]: aten.shape
Out[14]: torch.Size([2, 3])
torch.view()
изменяет тензор на другую, но совместимую форму. Например, наш входной тензор aten
имеет форму (2, 3)
. Это можно рассматривать как тензоры форм (6, 1)
, (1, 6)
и т.д.
# reshaping (or viewing) 2x3 matrix as a column vector of shape 6x1
In [15]: aten.view(6, -1)
Out[15]:
tensor([[ 1],
[ 2],
[ 3],
[ 4],
[ 5],
[ 6]])
In [16]: aten.view(6, -1).shape
Out[16]: torch.Size([6, 1])
Альтернативно, его можно также изменить или рассматривать как вектор строки формы (1, 6)
как в:
In [19]: aten.view(-1, 6)
Out[19]: tensor([[ 1, 2, 3, 4, 5, 6]])
In [20]: aten.view(-1, 6).shape
Out[20]: torch.Size([1, 6])
В то время как tensor.permute()
используется только для замены осей. Ниже приведен пример:
In [39]: aten
Out[39]:
tensor([[ 1, 2, 3],
[ 4, 5, 6]])
In [40]: aten.shape
Out[40]: torch.Size([2, 3])
# swapping the axes/dimensions 0 and 1
In [41]: aten.permute(1, 0)
Out[41]:
tensor([[ 1, 4],
[ 2, 5],
[ 3, 6]])
# since we permute the axes/dims, the shape changed from (2, 3) => (3, 2)
In [42]: aten.permute(1, 0).shape
Out[42]: torch.Size([3, 2])
Вы также можете использовать отрицательное индексирование, чтобы сделать то же самое, что и в:
In [45]: aten.permute(-1, 0)
Out[45]:
tensor([[ 1, 4],
[ 2, 5],
[ 3, 6]])
In [46]: aten.permute(-1, 0).shape
Out[46]: torch.Size([3, 2])
Просмотрите изменения, как представляется тензор. Для ex: тензор с 4 элементами может быть представлен как 4X1 или 2X2 или 1X4, но перестановка изменений осей. Хотя перестановка данных перемещается, но данные просмотра не перемещаются, а просто переинтерпретируются.
Ниже приведены примеры кода. a
- 2x2 тензор/матрица. С помощью представления вы можете читать a
как вектор столбца или строки (тензор). Но вы не можете транспонировать его. Для транспонирования вам нужно переставить. Транспонирование осуществляется путем переключения/перестановки осей.
In [7]: import torch
In [8]: a = torch.tensor([[1,2],[3,4]])
In [9]: a
Out[9]:
tensor([[ 1, 2],
[ 3, 4]])
In [11]: a.permute(1,0)
Out[11]:
tensor([[ 1, 3],
[ 2, 4]])
In [12]: a.view(4,1)
Out[12]:
tensor([[ 1],
[ 2],
[ 3],
[ 4]])
In [13]:
Бонус: см. Https://twitter.com/karpathy/status/1013322763790999552