سلام
شما میتونید لایه ها رو به پایتون(یا سی++ یا حتی در متلب) با برنامه نویسی همه رو بنویسید و مراحل اموزش و تست و... همه رو از انجام بدید .
ولی اگر برنامه نویسی نمیخوایید بکنید میتونید معماری شبکه خودتون رو تو یه فایل با پسوند prototxt بنویسید . این فایل رو تو نوت پد ویندوز یا notepad++ یا sublime میتونید باز کنید و ویرایش کنید و سیو کنید . ادیتور خاصی وجود نداره براش.
برای راحتی کار هم میتونید یکی از این فایل مثالها رو باز کنید تو notepad++ و طوری که میخوایید تغییرش بدید لایه های خودتون رو اضافه کنید لایه هایی که داره رو حذف کنید و .... بعد تغییراتتون رو سیو کنید .
در مورد دیتاست هم قبلا گفتم شما میتونید همه عکسا رو تو یه پوشه بزارید و بعد یه فایل متنی درست کنید و هر عکس رو با لیبلش تو اون فایل بنویسید مثلا اینطور
mydataset/airplane/airplane1.png 0
mydataset/dog/dog23.png 2
mydataset/truck/truck1.png 1
....
و اینطور فایل متنی رو پر کنید (بهش میگن لیبل) بعد با استفاده از اینها میتونید از لایه ImageDataLayer استفاده کنید و شبکه رو آموزش بدید
راه بهتر از این اینه که که وقتی کارهای بالا رو کردید برید با استفاده از convert_image_dataset.exe که تو پوشه Release وجود داره این پوشه عکسها رو تبدیل به دیتاست lmdb یا leveldb کنید تا سرعت خوندن داده از دیتاست و نقل و انتقال اون بهتر بشه خیلی زیاد.
بعد که فایلها تون ویرایش شد یا ساخته شد با استفاده از caffe.exe و ارسال فایل solverتون بعنوان پارامتر و سویچ train میتونید کار آموزش شرو شروع کنید. برای تست هم به همین شکل میتونید عمل کنید .
caffe.exe train --solver=examples/mydataset/mydataset_solver.prototxt