Этот вопрос связан с сопоставлением скорости между моделью случайного лесного классификатора по полному набору функций по сравнению с моделью случайного леса с уменьшенным числом компонентов после выполнения PCA. Я использую набор данных MNIST, который имеет 60 000 строк для моего обучения (X_train) и 10 000 для моего теста (X_test) и 784 функций, которые представляют собой пиксели, представляющие изображение 28x28.

Для полного набора функций я измеряю время, необходимое для использования с помощью clock():

clf = RandomForestClassifier()
t0 = time.clock()
clf.fit(X_train, y_train)
runtime = time.clock() - t0

Для выполнения PCA и Random Forest я делаю что-то подобное:

pca = PCA(n_components = 0.95)
t0 = time.clock()
components = pca.fit_transform(X_train)
clf.fit(components, y_train)
runtime = time.clock() - t0

Для полного набора я получаю время работы ~ 6 секунд, а для второго набора - время работы ~ 27 секунд. Даже если я разойдусь, чтобы посмотреть только время выполнения (удаление времени, необходимого для выполнения pca), я все равно получаю приблизительно 6 секунд по сравнению с 14 секундами. Количество функций для полного набора составляет 784, а PCA - до 154 компонентов. Мое ограниченное понимание заключается в том, что, по крайней мере, установка модели должна быть более быстрой с PCA из-за ограниченного числа функций - почему это не так?

Я пробовал масштабирование до PCA, помимо прочего, настраивал гиперпараметры, но это довольно противоречивое противоречивое различие во времени выполнения, и я считаю, что я просто не понимаю концептуально.