Znacie jakieś ciekawe programy (najlepiej darmowe ale o płatnych też dobrze wiedzieć)
Do uruchamiania sztucznej inteligencji na własnym sprzęcie.
Czy ktoś z Was takie coś próbował i jak zasobożerne to jest?
Interesuje mnie np.
-własny chatbot tzn żeby można było
prowadzić uczone dyskusje z własnym komputerem bez pośredników,
-program do sterowania komputerem wg poleceń np.
Klikaj „ok” gdy pojawi się okienko, albo
Wyszukaj w internecie tytuły odcinków serialu i dodaj do nazw plików we wskazanym folderze
Ważne jest w takim przypadku by program działał offline i nie szpiegował
https://lmstudio.ai/ bardzo solidne oprogramowanie, łatwo wyszukuje i instaluje się nowe modele poprzez przycisk „Discover”.
Jak chcesz się pośmiać to polecam modele nieocenzurowane, np Mythomax L2 13B.
Będe musiał chyba dołożyć RAMu albo zacząć zbierać na nowy komp
P.S. co będzie bardziej przyszłociowe w latach 30 XXIw. pecety czy laptopy?
Jak chcesz uruchamiać takie rzeczy jak LM Studio, to oczywiście PC’et z dobrym chłodzeniem, dużą ilością RAM, najlepiej 64GB no i jakiś najlepszy RTX.
Z tym, że jak nie masz RTX’a to na samym CPU - LM Studio + mniej wymagający model też dają radę o ile nie masz zbyt mało RAM’u. Trochę się czeka na odpowiedź i tyle