Kernel functions

Aufwärts: SVMs (Support Vector Machines) Vorherige Seite: Feature Space Inhalt

Kernel functions

Aber wir können sogenannte Kernel-Functions benutzen. Diese müssen die Mercer-Bedingung erfüllen. Mit der Kernelfunction können wir die Duale Form und die Decision Function dann doch berechnen:
Maximiere

$\begin{displaymath}D(\vec{\alpha})=\sum^{l}_{i=1}\alpha_{i}-\frac{1}{2}\sum^{l}_{i,j=1}\alpha_{i}\alpha_{j}y_{i}y_{j}\,k(\vec{x}_{i},\vec{x}_{j})\end{displaymath}$

Decision Function ist

$\begin{displaymath}f(\vec{z})=sgn\left(\sum^{l}_{i=1}\alpha_{i}y_{i}\,k(\vec{z},\vec{x}_{i})+b \right)\end{displaymath}$

Beispiele für Kernel Functions:

Polynom Klassifikation

$\begin{displaymath}k(\vec{z},\vec{x}_{i})=(\vec{z}\cdot \vec{x}_{i})^{d}\end{displaymath}$
RBF

$\begin{displaymath}k(\vec{z},\vec{x}_{i})=\exp(-\vert\vert\vec{z}-\vec{x}_{i}\vert\vert^{2}/c)\end{displaymath}$
MLP

$\begin{displaymath}k(\vec{z},\vec{x}_{i})=\tanh (\vec{g}(\vec{z}\cdot \vec{x}_{i})+s)\end{displaymath}$