התחלתי להתקדם לאימון בקוד פתוח: pytorch עם תמיכה ב־OpenCL

ב־10.10.2021, מאת ארתיום; פורסם תחת: תכנה חופשית, פיתוח, בינה מלאכותית; ‏2 תגובות

תקציר: הצלחתי לבצע inference של AlexNet ב־pytorch ב־OpenCL. הביצועים זהים לפעלה ישירה של dlprimitives.

הדרך עוד ארוכה אבל פחות קצת יותר ברורה מה לעשות. המאמר המלא באנגלית בבלוג הפיתוח:

http://blog.dlprimitives.org/post/5

תגובות

queency, ב־28.10.2021, 4:18

ארתיום שלום.

קצת רקע: אני כותב כרגע פותר טטרווקס "TETRAVEX" (מה שחייב אותי להכרות עמוקה עם המונח פרמוטציות)

כרגע הכל נשען על BRUTE FORCE אבל אני מנסה ליישם אלגוריתם מסוים כדי לחסוך בכמות הפרמוטציות.

שימוש בBRUTE FORCE הביא אותי: 1) ליישום שימוש במעבדים רבים. 2) ונסיון שלא צלח "להלביש" את "הפרמוטציות" על הGPU)

כמו כן נתקלתי בOPENCL אבל החלטתי שיהיה יותר קל וטבעי להתחיל עם NUMPY ו NUMBA במקום (גם בגלל התמיכה במעבדי AMD).

לאחר סיום כתיבת האלגוריתם כאמור לעייל אני מתעתד ללמוד להשתמש גם בpytorch ולהתנסות בשימוש בAI ולאחר שנתקלתי בפוסט שלך (ובפוסטים קודמים) רציתי לשאול אותך איך כדאי לגשת לנושא?

המליצו לי להתחיל עם FAST-AI וOPEN-AI אבל הבנתי שOPEN-AI הוא לא קוד פתוח.

ואולי אנחנו מדברים על דברים שונים בכלל כי אני רוצה ללמוד להשתמש בטכנולוגיה ואולי אתה בכלל מנסה לפתח אותה.

כך או כך אשמח לתגובה.

ארתיום, ב־28.10.2021, 21:54

יש הרבה חומר בנושא machine learning ו־deep learning תתחיל מדברים בסיסיים. כל הנושא של opencl/numpy/numba רלוונטי בצורה מאוד עקיפה לנושא של למידה חישובית/עמוקה. יש לך המון חומר ללמוד עוד לפני (וכמובן להשתמש בכלים קיימים כמו pytorch).

מה שאני מנסה לטפל בו זה נושאים ברמת low-level שברמת משתמש קצה כמעט ולא אמורים להיות מורגשים (מלבד זה שהחלפת קוד סגור של cuda/cudnn בקוד פתוח)

הוסף תגובה:

 
 כתובת דוא"ל לא תוצג
 

ניתן לכתוב תגובות עם שימוש בתחביר Markdown.

חובה לאפשר JavaScript כדי להגיב.

דפים

נושאים