פייסבוק מפעילה גם PyTorch וגם Convolutional Architecture להטמעת תכונות מהירה (Caffe2), אבל מודלים שהוגדרו על ידי שתי המסגרות לא היו תואמים זה לזה. פרויקט Open Neural Network Exchange (ONNX) נוצר על ידי פייסבוק ומיקרוסופט בספטמבר 2017 להמרת מודלים בין מסגרות. Caffe2 מוזג לתוך PyTorch בסוף מרץ 2018.[17]
טנזורים של PyTorch
PyTorch מגדיר מחלקה בשם Tensor (או torch.Tensor ) לאחסן ולפעול על מערכים מלבניים רב-ממדיים הומוגניים של מספרים. PyTorch Tensors דומים ל-NumPy Arrays, אך ניתן להפעיל אותם גם על Nvidia GPU בעל יכולת CUDA. ספריית PyTorch תומכת בתתי סוגים שונים של Tensors. [18]
מודלים
מודל Autograd
PyTorch משתמש בשיטה הנקראת בידול אוטומטי. רכיב הקלטה מקליט את הפעולות שביצעו, ולאחר מכן הוא משמיע אותו לאחור כדי לחשב את הגרדיינטים. שיטה זו חזקה במיוחד בעת בניית רשתות עצביות כדי לחסוך זמן ב-epoch אחד על ידי חישוב בידול של הפרמטרים במעבר קדימה.
מודל Optim
torch.optim הוא מודול שמיישם אלגוריתמי אופטימיזציה שונים המשמשים לבניית רשתות עצביות. רוב השיטות הנפוצות כבר נתמכות, כך שאין צורך לבנות אותן מאפס.
מודל nn
PyTorch autograd מקל על הגדרת גרפים חישוביים ולקחת מעברי צבע, אבל autograd גולמי יכול להיות ברמה מעט נמוכה מדי להגדרת רשתות עצביות מורכבות. זה המקום שבו nn יכול לעזור.
^Mannes, John. "Facebook and Microsoft collaborate to simplify conversions from PyTorch to Caffe2". TechCrunch (באנגלית). נבדק ב-2017-12-18. FAIR is accustomed to working with PyTorch – a deep learning framework optimized for achieving state of the art results in research, regardless of resource constraints. Unfortunately in the real world, most of us are limited by the computational capabilities of our smartphones and computers.
_artificial_intelligence_icon.png){kind=icon}
