سلام
اگه از سورس نصب کنید می تونید بیشتر بر اساس محیطی که دارید نصب رو انجام می دید(مثلا اگه cpu هاش امکانات خاصی داره)، می تونید tensorflow رو اختصاصی کنید
پکیج های معمولی تنسورفلو هدفش این بوده که تقریبا روی همه جا نصب بشه و کمترین فرض رو در مورد محیط نصب داشته باشه
البته اگه فقط سورس رو بگیرید و بدون هیچ تغییری توی خود کد یا تنظیمات ساختش، کامپایل کنید، معمولا فرقی با نصب از طریق پکیج ها نداره، مگه اینکه مثلا خوده cmake ی چیزی بعضی تنظیمات رو تغییر بده
بحث virtualenv هم مجزا از بحث نصب از سورس یا استفاده از پکیج هستش، یعنی با استفاده از virtualenv ، محیطهای کتابخونه های مختلف رو جدا می کنید، حالا ممکنه یه سری هاش رو با پکیج از pip نصب کردید، یه سری هاش رو از سورس ساختید و بعدش اصلا خودتون دستی فایل هاش رو کپی کردید یا هر جور دیگه ای
در سرعت اجرا که تاثیری نداره اما اینکه چقدر در موقع import چقدر سرعتش فرق می کنه رو متاسفانه ایده ای ندارم
در مورد استفاده از virtualenv در IDE های مختلف هم، این موضوع کامل مجزا از IDE هستش و می تونید ازش استفاده کنید. البته اینکه چه طوری، بسته به خوده IDE داره