5 - עוד ריבועים פחותים — אלגוריתמים נומריים

נראה כעת שני שימושים לריבועים פחותים:

זיהוי ספרות

נניח ועכשיו יש לנו איזה מאגר של תמונות שחור-לבן בגודל $28\times 28$ פיקסלים המייצגות מספרים:
נומריים תרגול 5 - 2.png
אנו מתעניינים משום מה בתמונות של $0$ ו- $7$ בלבד.
המשימה שלנו היא לקבל צילום של ספרה שיכולה להיות 0 או 7 ועלינו לקבוע מהי.
נניח שהתמונה מיוצגת כוקטור עמודה $\underline{z}$ באורך $L=28^2=784$ . הסיווג יעשה על סמך החישוב הבא:

sign(\underline{z}^t\underline{w}+c)=\begin{cases} 0 & =+1 \\ 7 & =-1 \end{cases}

לרשותינו יהיו המון דוגמות של צילומי ספרות שאיתן נוכל להתאמן על מנת לכוונן את מכונת הסיווג שלנו.
את האימון הזה נעשה ע"י ריבועים פחותים.

הנה ניסוח הבעיה כבעיית ריבועים פחותים:

המטריצה $A$ כוללת בשורותיה דוגמות של תמונות ובכל שורה נוסיף מימין 1.
הוקטור $\underline{b}$ יכיל $+1$ ל- $0$ ו- $-1$ ל- $7$ .
וקטור הנעלמים כולל את $\underline{w}$ ואת $c$ .

נומריים תרגול 5 - 1.png

\underline{x}^*=\begin{pmatrix} \underline{w} \\ c \end{pmatrix}=arg \underset{\underline{x}}{\min}\left\lVert A\underline{x}-\underline{b} \right\rVert _{2}^2=A^{\dagger}\underline{b}

מפה פשוט אפשר לפתור.

זיהוי ספרות

נניח ועכשיו יש לנו איזה מאגר של תמונות שחור-לבן בגודל

28\times 28

פיקסלים המייצגות מספרים:
נומריים תרגול 5 - 2.png

אנו מתעניינים משום מה בתמונות של

0

ו-

7

בלבד.
המשימה שלנו היא לקבל צילום של ספרה שיכולה להיות 0 או 7 ועלינו לקבוע מהי.
נניח שהתמונה מיוצגת כוקטור עמודה

\underline{z}

באורך

L=28^2=784

. הסיווג יעשה על סמך החישוב הבא:

sign(\underline{z}^t\underline{w}+c)=\begin{cases} 0 & =+1 \\ 7 & =-1 \end{cases}

הנה ניסוח הבעיה כבעיית ריבועים פחותים:

המטריצה

A

כוללת בשורותיה דוגמות של תמונות ובכל שורה נוסיף מימין 1.

הוקטור

\underline{b}

יכיל

+1

ל-

0

ו-

-1

ל-

7

וקטור הנעלמים כולל את

\underline{w}

ואת

c

\underline{x}^*=\begin{pmatrix} \underline{w} \\ c \end{pmatrix}=arg \underset{\underline{x}}{\min}\left\lVert A\underline{x}-\underline{b} \right\rVert _{2}^2=A^{\dagger}\underline{b}

מפה פשוט אפשר לפתור.