Встречался ли с проблемами недостатка или переизбытка данных

Да, сталкивался.

Недостаток данных приводит к переобучению, плохой обобщающей способности. Решения:

• Аугментация (для изображений: повороты, сдвиги)
• Transfer Learning (использование предобученных моделей)
• Генерация синтетических данных (SMOTE для дисбаланса классов)

Переизбыток данных усложняет обучение, требует больше ресурсов. Решения:

• Стратифицированная выборка
• Уменьшение размерности (PCA, t-SNE)
• Фильтрация шумных/нерелевантных данных

Пример аугментации для изображений в Keras:

from tensorflow.keras.preprocessing.image import ImageDataGenerator  
datagen = ImageDataGenerator(rotation_range=20, width_shift_range=0.2)  
augmented_images = datagen.flow_from_directory('data/', save_to_dir='augmented/')