Czat GPT: Temperatura jako czynnik wpływający na kreatywność

Każdy, kto pracował z Chat GPT, zauważył, że im głębiej chce się zagłębić w temat, Chat GPT zawsze zwraca tę samą odpowiedź. Zajmuje to trochę czasu, ale w pewnym momencie rozmowa ze sztuczną inteligencją staje się bezcelowa. Jednym z powodów jest parametr temperatury, który zapewnia pewną kreatywność lub lepiej niezbędną nieostrość w zachowaniu odpowiedzi. Ponieważ parametr ten nie ma wartości 1 (brak rozmycia), dojście do tego punktu zajmuje trochę czasu.

Stephen Wolfram opisuje to w ten sposób: if we always pick the highest-ranked word, we’ll typically get a very płaski essay, that never seems to show any kreatywności. Potrzebujemy pewnej losowości, tj. parametru, który pozwoli sztucznej inteligencji użyć również mniej prawdopodobnego terminu jako wybranego tokena.

Co oznacza temperatura w sztucznej inteligencji?

Temperatura jest parametrem w sztucznej inteligencji, który wpływa na różnorodność i jakość generowanych tekstów i innych treści. Temperatura określa zatem, jak często niżej oceniony termin powinien być używany w odpowiedzi. Często stosowaną wartością jest temperatura 0,8. Ekscytujące, ponieważ wartość 0,8 według Wolframa nie jest uzasadniona naukowo, ale opiera się na wartościach empirycznych z praktyki. Innymi słowy, subiektywna wartość, która wciąż jest określana przez ludzi. Ale myślę, że to nie przypadek, że temperatura również jest zgodna z zasadą 80/20, zasadą Pareto. Stephen Wolfram kontynuuje, że the concept of temperatury is there because exponential distributions familiar from statistical physics happen to be being used, but there’s no fizycznego connection—at least so far as we know. nie ma wiadomo.

Jednak zastosowanie temperatury 0,8 ma również implikacje etyczne. Systemy sztucznej inteligencji mogą mieć tendencję do generowania dezinformacji lub treści rasistowskich, seksistowskich lub innych dyskryminujących, stosując wyższą temperaturę. Wynika to z faktu, że większa różnorodność generowanych tekstów może również zawierać nieodpowiednie lub problematyczne treści. Z tego powodu ważne jest, aby programiści i badacze AI odpowiedzialnie obchodzili się z temperaturą i zapewniali, że generowane teksty są etyczne i uczciwe.

Kreatywność, weryfikacja i badania

W c-rex.net od pewnego czasu wykorzystujemy sztuczną inteligencję w różnych miejscach. Oczywiście, używamy Co Pilot w rozwoju oprogramowania. Generuje dla nas kod, a ostatnio zaczęliśmy również używać Chat GPT w naszych wpisach na blogu. Ale ani Co Pilot nie tworzy dla nas oprogramowania c-rex.net, ani Chat GPT nie pisze dla nas bloga i strony internetowej. Coraz częściej wykorzystujemy oba systemy jako wsparcie w naszej codziennej pracy. Oszczędzają nam czas na żmudnej, ale wciąż głupiej pracy pisania kodu źródłowego lub pisania tekstów, które są gramatycznie czyste, a także zrozumiałe.

Szybki rozwój technologii automatyzacji jest szczególnie widoczny w dziedzinie tłumaczeń. Obszar, w którym kreatywność i tak od dawna nie jest pożądana, a w międzyczasie przestała istnieć. Zamiast ręcznie tłumaczyć teksty na różne języki przy wsparciu systemów pamięci tłumaczeniowej, dziś możemy po prostu użyć dowolnego silnika MT z pomocą scenariuszy automatyzacji c-rex.net. Po prostu definiujemy języki, które chcemy obsługiwać, a automatyzacja zajmuje się resztą. W różnych projektach zauważyliśmy, że tłumaczenia maszynowe są coraz częściej wykorzystywane, a sugestie sztucznej inteligencji są po prostu "przepuszczane" w procesie postedycji. Nie jest to jedyny powód, dla którego każdego dnia jest coraz mniej powodów, dla których wciąż polegamy na ludzkim wsparciu w procesie tłumaczenia. Zwłaszcza gdy spojrzymy na to w trójkącie konfliktu kosztów, jakości i czasu, argument dotyczący kosztów staje się coraz ważniejszy.

Podobnie jak w procesie tłumaczenia, w przyszłości nie będziemy już potrzebować deweloperzy, które potrafią tylko pisać kod lub znają określony język programowania. W przyszłości nie będziemy już potrzebować autorzy techniczni, którzy znają się tylko na pisaniu i gramatyce. Przynajmniej te wymagania nie są już wymagane jako podstawowe kwalifikacje w opisach stanowisk.

Będziemy jednak coraz bardziej potrzebować eksperci, którzy mają dogłębną wiedzę na temat technologii i koncepcji, którzy mogą ocenić, czy reakcja systemu jest poprawna lub przynajmniej prawdopodobna. Wymaga to umiejętności prowadzenia badań. Wreszcie, potrzebujemy kreatywności, a może lepiej ciepłej temperatury, która dostarczy nam nowych pomysłów i popchnie nas do przodu w innowacyjny sposób.

Wnioski

Używajmy więc systemów takich jak Chat GPT, DeepL i Co Pilot do tego, czym są: lepszymi wyszukiwarkami i pomocami w pisaniu, które mogą i odciążą nas od bezmyślnej i mniej kreatywnej pracy. Zautomatyzujmy to jeszcze bardziej, aby pozostać konkurencyjnym i przenieść się w przyszłość.

Wymaga to jednak również od nas chęci, by dać sobie więcej szerokości i głębi. To ciężka praca, aby pozostać konkurencyjnym wobec zwolenników maszyn. Wątpliwe jest, czy nam się to uda, dlatego tym ważniejsze jest, abyśmy w końcu zaczęli tworzyć społeczną podstawę, aby złagodzić negatywne skutki: Digitalizacja i bezwarunkowy dochód podstawowy!?.