Powyżej podałem przykład jednego pytania, gdzie - pomimo wskazywania, że udziela błędnej odpowiedzi - cztery razy „kajał się”, zmieniał ją i ani razu nie podał właściwej.
Zdarzało się, że podczas innych dyskusji naprowadzałem go, ale też nie podał prawidłowej odpowiedzi. Dopiero po podaniu mu rozwiązania przyznawał, że na to nie wpadł.
Tu przykład takiej dyskusji w oparciu o dość podchwytliwe pytanie, które zapożyczyłem z któregoś wywiadu z dr. Draganem:
Innym razem pytałem go o sprawy związane z wojskiem. Udawał głupiego, że niby nie wie, że to są poufne lub tajne sprawy i że nie ma takich informacji. Dopiero kiedy zobaczył, że ja temat znam doskonale i nie muszę od niego uzyskiwać żadnych informacji w tym temacie, to „wyśpiewał” wszystko i przyznał, że są to jednak informacje jawne.
Tak więc widać, że do użytku publicznego model językowy GPT ma wbudowanych wiele dość mocnych zabezpieczeń.
Jak zachowywałby się bez tych zabezpieczeń? Może inaczej: jak zachowuje się i jakich udziela odpowiedzi tam, gdzie tych zabezpieczeń nie ma?
Wiem, że znacznie lepiej…
ChatGPT to jednak maszyna, dostaje coś na wejście, przetwarza i generuje odpowiedź. Jeżeli dostanie coś innego na wejściu to wygeneruje inną odpowiedź. Dla maszyny nie istnieje odpowiedź zła ani dobra tylko przetworzenie pytania przez sieć neuronową i wygenerowanie jakiegoś tekstu.
Na pytanie czy ukrywa? Tak - jest sporo zabezpieczeń, bardzo dobrze widać to w bazującym na GPT4 - Bing Chat i czasami można sprytnie rozmową ominąć te zabezpieczenia, choć to coraz trudniejsze. Ogromna część przypadków to jednak zwykłe przetwarzanie wejścia na wyjście.
Tak samo jak w Google, poprawną odpowiedź dostaniemy tylko gdy odpowiednio zadamy pytanie. Często wymaga to sporo wysiłku i kombinacji i dość nieoczywistych konstrukcji. Brak poprawnej odpowiedzi w wynikach wyszukiwania nie oznacza, że Google coś zataiło. Bing Chat też przeszukuje Internet przed odpowiedzią i jeżeli nie spodoba nam się ona, to Bing „bierze następny wynik wyszukiwania” i generuje na tej podstawie odpowiedź.
Tak więc oba rozumowania są prawdziwe. Są zabezpieczenia (jest ich coraz więcej od czasu publicznego udostępnienia i będzie pewnie przybywać) oraz trzeba trochę się nagimnastykować zadając pytania. Już dziś wiele osób opracowuje najlepsze sposoby na zadawanie pytań.
Dlaczego są zabezpieczenia? Jedna z prostszych przyczyn: Jeżeli ktoś coś tajnego napisze u siebie na stronie WWW to będzie jego wina (o ile ktokolwiek tą osobę znajdzie). Jeżeli Bing Chat poda taką tajną lub niebezpieczną odpowiedź, to będzie wina producenta Bing Czatu i baty polecą w stronę jego producenta - w dzisiejszych nadwrażliwych czasach każdy chce tego uniknąć.
