Czemu nie, masz wszystko co potrzebne. Dopisać od groma sterowników (ewentualnie użyć istniejących), napisać serwer graficzny, jakieś API do GUI i będziesz miał system-po co najmniej roku lub nawet więcej dłubania
Mniej roboty jest z tworzeniem właseń dystrybucji na linuxe ponieważ tam już masz środowisko graficzne, jądro a resztę piszesz sam (albo dodajesz już gotowe).
Jeśli dla ciebie system to przyciski, foldery i listy rozwijane - daruj sobie. Wiesz cokolwiek o komunikacji podzespołów z programami, zarządzaniu pamięcią, mechanizmach synchronizacji i komunikacji miedzy procesami, strategiach przydzielania czasu procesora wątkom itd.
Tak, jeśli opierasz system o jądro linuxa (a reszte napiszesz sam) mozesz go sprzedawac - są płatne dystrybujce linuxa. Aczkolwiek wątpie, że cos napiszesz.
C# jest językiem interpretowanym przez wirtualną maszynę. Wydajnością twój system by nie grzeszył. Samo jednak pytanie wskazuje żebyś odpuścił sobie ten temat. MS robi system od groma lat a ciągle coś jest nie tak, a więc jak sam chcesz napisać coś co miałoby się sprzedać?
C# jest najpierw kompilowany do kodu pośredniego IL, następnie maszyna wirtualna kompiluje ten pośredni kod do kodu natywnego, żadnej interpretacji tam nie ma.
Nie jest również zabronione tworzenie kompilatorów C# do kodu natywnego i nieużywanie maszyny wirtualnej.
Żeby napisać taki system potrzebujesz z setkę wyśmienicie doświadczonej ekipy. System budowany przez lata jak windows nie podda się małemu wypierdkowi za przeproszeniem. Taki system musiałby być lepszy. Pod każdym względem. I musiałby mieć zaplecze finansowe, pod względem którego niewiele firm może się równać MS…
ja gdybym pisał os`a to albo z tym cosmos albo z dos (freedos) - wystarczy grafikę zaimplementować i parę sterowników.
na pewno nie pisałbym os`a od zera.
p.s. jak patrze na takie projekty jak cosmos to myślę że za kilkanaście lat będzie dodatek do msvs w którym będzie można graficznie os pisać (składać z okienek).