مفهوم اصطلاح Element-Wise Addition چیست؟

Question

با سلام و وقت بخیر
لطفا مفهوم پاراگراف

"As for the case where ShuffleNet is applied with stride, we simply
make two modifications (see Fig 2 (c)): (i) add a 3 × 3 average
pooling on the shortcut path; (ii) replace the element-wise addition
with channel concatenation, which makes it easy to enlarge channel
dimension with little extra computation cost."

---

در مقاله (shufflenet) زیر را بیان نمایید . متشکرم
لینک مقاله:
https://arxiv.org/abs/1707.01083

Answer 1

سلام
لینکی که گذاشتید کار نمیکنه.
مقاله FCN رو برای مثال اگر چک کنید Element wise addition رو میبینید. همچنین در ساختار resnet هم وجود دارد. منظورش این هست که در این بخش از شبکه ماتریس هایی که در لایه های قبل ساخته شده اند با هم جمع بسته می شوند. برای این منظور دو ماتریس حتما باید اندازه های یکسانی داشته باشند. این سوال در Stackoverflow هم پرسیده شده است.
https://stackoverflow.com/questions/46902386/residual-neural-network-concatenation-or-element-addition
در صورت امکان لینک مقاله رو ویرایش کنید تا بهتر بررسی بشود.

Comments

ممنون از اینکه وقت گذاشتید . متن ویرایش کردم .
در واقع داره می گه با جمع درایه به درایه ماتریس ها ابعاد رو افزایش دادیم بدون اینکه هزینه زیادی تحمیل بشه درسته ؟(البته اگه درایه به درایه جمع کنه که سایز تغییر نمی کنه!!!!)چه نیازی به افزایش ابعاد هست؟ درست مفهوم کارشو متوجه نمی شم

---

نه دقت کنید که سه شکل گذاشته است. توی دو شکل اول چون جمع هست افزایش بعدی نداریم. توی حالت اخر concat کرده که اونجا افزایش بعد داریم. با توجه به شکل 2 مقاله گفتم.

---

سلام وقتتون بخیر
توی همین شکلی که می فرمایید 3 قسمت aو b و c وجود دارد آیا اینها به ترتیب همان stage2، stge3 و stage4 هستند ؟ یا اینکه تمامی این استیج ها همون شکل آخر یا c است که وردی هایش سایزهای متفاوت دارند؟