Destek Vektör Makineleri (Support Vector Machines – SVMs) – 8

Bir kısıtlanmış optimizasyon problemi (primal problem) için, oldukça benzer başka bir problem (dual problem) ifade edilebilir. Dual problemin çözümü, genelde, primal problemin çözümü için bir alt sınır verir. Ancak, amaç fonksiyonu konveks, eşitsizlik kısıtlamaları (inequality constraints) sürekli türevlenebilir ve konveks fonksiyonlar ise, primal ve dual problemlerin çözümleri aynıdır. DVM problemi de bu koşulları sağladığından, primal problem veya … Okumaya devam et Destek Vektör Makineleri (Support Vector Machines – SVMs) – 8

Reklamlar

Destek Vektör Makineleri (Support Vector Machines – SVMs) – 7

Karar Fonksiyonu ve Tahmin Doğrusal DVM sınıflandırıcısı, yeni $latex x$ örneğinin sınıfını karar fonksiyonunu hesaplayarak tahmin eder. Karar fonksiyonu, $latex w^T \cdot x + b$ pozitif ise, $latex \hat{y}$ tahmini pozitif sınıf(1), değilse negatif sınıf(0) olur. Burada $latex b$, yanlılık terimi, $latex w$ ise ağırlık vektörüdür. Aşağıdaki grafikte Iris veriseti üzerindeki bir modelin karar sınırını … Okumaya devam et Destek Vektör Makineleri (Support Vector Machines – SVMs) – 7

Destek Vektör Makineleri (Support Vector Machines – SVMs) – 6

DVM ile Regresyon Önceden belirttiğim gibi, Destek vektör makineleri hem sınıflandırma hem de regresyon problemlerinde kullanılmaktadır. Regresyon için amaç tersine çevrilir: mümkün olan en geniş caddeyi bulmak yerine, mümkün olduğunca en fazla veri örneğini cadde üzerinde tutmaya çalışır (Sınıflandırmada caddenin dışında tutmaya çalışır). Caddenin genişliği, $latex \epsilon$ üstün-parametresi (hyper-parameter) ile belirlenir. Yukarıdaki grafikte, solda daha … Okumaya devam et Destek Vektör Makineleri (Support Vector Machines – SVMs) – 6

Destek Vektör Makineleri (Support Vector Machines – SVMs) – 5

Polinomial Çekirdek (Polynomial Kernel) Verisetine polinomial öznitelikler eklemek basit ve kullanışlı ve ayrıca diğer makine öğrenimi modellerinde de kullanılabilmesine rağmen, düşük dereceden polinomlar, karmaşık verisetlerinde işe yaramaz, yüksek dereceden polinomlar ise modele yüksek sayıda öznitelik ekleyerek, oldukça yavaşlatmaktadır. DVM kullanırken, çekirdek hilesi (kernel trick) olarak adlandırılan bir teknik kullanabiliriz. Çekirdek hilesini daha ileride detaylıca açıklayacağım. … Okumaya devam et Destek Vektör Makineleri (Support Vector Machines – SVMs) – 5

Destek Vektör Makineleri (Support Vector Machines – SVMs) – 4

Nonlineer DVM ile sınıflandırma Doğrusal DVM sınıflandırıcıları birçok durumda iyi sonuç versede, bir çok veriseti doğrusal-ayrılabilir (linearly seperable) değildir. Bu problem için yaklaşımlardan biri, nonlineer verisetlerine polinomial öznitelikler eklemektir. Soldaki grafikte, veriseti sadece $latex x_1$ özniteliğini içermektedir. Bu veriseti doğrusal-ayrılabilir değildir. Ama, $latex x_2 = (x_1)^2$ özniteliğini bu verisetine eklersek, doğrusal-ayrılabilir hale gelmektedir (Sağdaki grafik). … Okumaya devam et Destek Vektör Makineleri (Support Vector Machines – SVMs) – 4

Destek Vektör Makineleri (Support Vector Machines – SVMs) – 3

Artık python ile bir örnek yapalım. Örneğimizde Iris verisetini kullanacağız. İlk olarak gerekli modülleri ve fonksiyonları içeri aktardık. X değişkenimize Iris verisetindeki yaprak uzunluğu ve yaprak genişliği özniteliklerini atadık. Iris veriseti üç farklı yaprak çeşidi içermektedir (Setosa, Versicolour, ve Virginica). y değişkenine de eğer Virginica ise 1, değilse 0 değerlerini atadık. Makine öğrenimi için "pipeline" oluşturduk. … Okumaya devam et Destek Vektör Makineleri (Support Vector Machines – SVMs) – 3

Destek Vektör Makineleri (Support Vector Machines – SVMs) – 2

Eğer tüm veri örneklerinin, cadde dışında ve caddenin sağında olmasını zorunlu tutarsak, bu hard margin classification olarak adlandırılır. Bu, iki önemli problem yaratmaktadır. Birincisi, hard margin classification, veriler sadece doğrusal ayrılabilir ise işe yaramaktadır. İkincisi ise aykırı noktalara karşı hassas olmasıdır. Yukarıdaki grafikte, iris verisetine bir tane aykırı nokta eklenmiştir. Karar sınırı ise, bir önceki yazımızdakinden … Okumaya devam et Destek Vektör Makineleri (Support Vector Machines – SVMs) – 2

Destek Vektör Makineleri (Support Vector Machines – SVMs) – 1

Destek vektör makineleri, çok güçlü bir makine öğrenmesi modelidir. Lineer veya lineer-olmayan (non-lineer) sınıflandırma ve regresyon problemleri için kullanılabilir. Doğrusal Destek Vektör Makineleri ile Sınıflandırma Destek vektör makinelerinin temel fikri bir grafikle kolaylıkla açıklanabilir. Grafik, Iris verisetinin bir kısmını göstermektedir. İki sınıf, kolaylıkla bir doğru ile ayrılabilir (Doğrusal ayrılabilir - Linearly seperable). Soldaki grafikte, kesik … Okumaya devam et Destek Vektör Makineleri (Support Vector Machines – SVMs) – 1