ich würde dir
a) Linux: Distri deiner wahl, minimalsystem installieren, samba installieren und damit deine freigaben verwallten. könntest noch n webserver installieren, wenn du möchtest und wärst damit ziemlich flexibel
Windows Server: Fileserver installieren, kannst damit auch sehr fein rechte vergeben. lohnt sich allerdings nur, wenn du ne lizens hast oder an eine kommst (z.B. kostenlos durch MSDNAA oder so). sonst zu teuer.
raten.
Wenn du linux nimmst, kann ich Debian als distri empfehlen.
Ich bevorzuge sonst FreeBSD, mag ich lieber als linux, denke aber linux ist einfacher. administration kannst du über webmin oder so machen