Modellerin birleştirilmesi (Ensemble Learning) – 2

Bagging ve Pasting

Başka bir ensemble learning metodu ise, aynı algoritmayı verinin farklı altkümeleri üzerinde çalıştırmaktır. Altkümeleri oluştururken, örnekleme (sampling – kısaca verisetinden noktalar seçimi) işlemi yerine koyma (aynı nokta birden fazla kere seçilebilir) ile yapılırsa, bu yöntem bagging (bootstrap aggreating) olarak, yerine koyma ile yapılmıyor ise de, bu yöntem pasting olarak adlandırılır.

ensemble3.png
Bagging ve Pasting

Tüm tahmin ediciler eğitildikten sonra, tahminleri birleştirmek için, sınıflandırma probleminde hard voting classifier ( ya da soft voting classifier), regresyon probleminde ise tahminlerin ortalaması kullanılabilir.

Şimdi Scikit-Learn ile bir örnek yapalım.

Yine daha önceki örneklerde kullandığımız make_moons fonksiyonu ile veri yaratacağız (Modellerin birleştirilmesi (Ensemble Learning) – 1). Daha sonra;

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

ile modellerimizi içeri aktarıyoruz.

bag_clf = BaggingClassifier(
        DecisionTreeClassifier(), n_estimators=500,
        max_samples=100, bootstrap=True, n_jobs=-1)

bag_clf.fit(X_train, y_train)
y_pred = bag_clf.predict(X_test)

komutları ile de Bagging Classifier’ımızı oluşturup eğitiyoruz. Aşağıdaki grafikte tek bir karar ağacının karar sınırı ile, 500 karar ağacının bagging ile birleştirilmesi sonucu elde edilen karar sınırını görüyoruz:

ensemble4.png

Bir sonraki yazıda görüşmek üzere.

Kaynaklar

  1. Geron, A. (2017). Hands-On Machine Learning with Scikit-Learn and TensorFlow Concepts, Tools, and Techniques for Building Intelligent Systems. Sebastopol: OReilly UK Ltd.
Reklamlar

Bir Cevap Yazın

Aşağıya bilgilerinizi girin veya oturum açmak için bir simgeye tıklayın:

WordPress.com Logosu

WordPress.com hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap /  Değiştir )

Google fotoğrafı

Google hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap /  Değiştir )

Twitter resmi

Twitter hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap /  Değiştir )

Facebook fotoğrafı

Facebook hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap /  Değiştir )

Connecting to %s