سلام عرض ادب
دوستان من یک مدلی رو ترین کردم حالا میخاستم این رو deploy کنم و کدهای مربوطه به این رو نوشتم و جواب اکی هست منتها وقتی که این رو GPU اجرا میشود عملیات زمانی اینقدر دیده نمیشود ولی وقتی که رو CPU اجرا میشود خیلی کند میشود البته این کند بودن بیشتر بخاطر لود کردن مدل هست حالا سوال من این هست چجوری میشه یکاریش کرد که مدل فقط یبار لود شود و همیشه در رم سیستم بصورت داینامیک اکتیو بماند اگر اینجوری بشه فقط یکبار لود کردن زمان برمیشه و سری های بعدی حتی رو cpu هم سریع تر اجرا میشود.
در واقع خط مربوط به لود کردن مدل بنوعی داخل لوپ نیافته که هرسری عکس بهش اومد بیاد پیش پردازش روش انجام بده و بعدش وارد خط لود کردن مدل بشه و نتایج رو بده حالا میخواهم این خط لود کردن مدل همیشه فعال بمونه و نیازی نباشه که با هر بار اومدن عکس مدل رو از اول لود کنه.
مدل من با کراس هست حالا فرقی نداره با چه فریم ورکی صورت بگیرد.