Что такое критерий Джини

Критерий Джини (Gini impurity) — мера неоднородности в узле дерева решений. Показывает вероятность неправильной классификации случайно выбранного элемента, если его метку предсказывать согласно распределению классов в узле.

Формула:
Gini = 1 - Σ(p_i)², где p_i — доля класса i в узле.

Пример:

from sklearn.tree import DecisionTreeClassifier
model = DecisionTreeClassifier(criterion='gini')
model.fit(X_train, y_train)

Особенности:

• Диапазон значений: от 0 (чистый узел) до 0.5 (максимальная неоднородность для 2 классов).
• Чем ниже значение, тем лучше разделение.
• Альтернатива — энтропия, но Джини вычислительно эффективнее.