OpenAI’s CharGPT: En revolution inden for AI teknologi

‍CharGPT er en kunstig intelligens (AI) chatbot, der er udviklet af OpenAI. Den blev lanceret den 30. november 2022 og gjorde sig bemærket ved at give brugerne mulighed for at styre og tilpasse en samtale i forhold til længde, format, stil, detaljeringsgrad og det anvendte sprog. På trods af at dens indhold spænder over forskellige vidensdomæner, har CharGPT vist en tendens til at give unøjagtige oplysninger med stor selvsikkerhed.

ChatGPT’s popularitet

I januar 2023 blev det den hurtigst voksende softwareapplikation til forbrugere i historien med over 100 millioner brugere. Dette bidrog til, at OpenAI’s værdiansættelse voksede til 29 milliarder amerikanske dollar. Inden for få måneder fremskyndede andre virksomheder konkurrerende produkter som Googles PaLM-E, Baidus ERNIE og Metas LLaMA. Nogle observatører udtrykte bekymring over ChatGPT’s potentiale til at fortrænge eller svække menneskelig intelligens, samt dens potentiale til at muliggøre plagiering eller fremme misinformation.

ChatGPT er bygget på GPT-3.5 og GPT-4 fra OpenAI’s proprietære serie af grundlæggende GPT-modeller. Disse store sprogmodeller (LLMs) er finjusteret til konverserende applikationer ved hjælp af en kombination af superviserede og forstærkende læringsmetoder. ChatGPT blev frigivet som en gratis forskningsprøve, men på grund af dens popularitet driver OpenAI nu tjenesten på en freemium-model.

Træning af CharGPT

Finjusteringen blev opnået ved hjælp af menneskelige trænere, der forbedrede modellens præstation. I fasen med forstærket læring rangerede menneskelige trænere de svar, som modellen havde skabt i en tidligere samtale. Disse rangeringer blev brugt til at skabe “belønningsmodeller”, der blev brugt til at finjustere modellen yderligere ved hjælp af flere iterationer af Proximal Policy Optimization (PPO).

Time Magazine afslørede, at for at opbygge et sikkerhedssystem mod skadeligt indhold (f.eks. seksuelt misbrug, vold, racisme, sexisme osv.) brugte OpenAI outsourcede arbejdere fra Kenya, der tjente mindre end 2 dollars i timen, til at mærke skadeligt indhold. Disse mærker blev brugt til at træne en model til at opdage sådant indhold i fremtiden. Arbejderne blev udsat for giftigt og traumatiserende indhold; en arbejder beskrev opgaven som “tortur”. OpenAI’s outsourcingpartner var Sama, et træningsdatafirma baseret i San Francisco, Californien.

ChatGPT brugte oprindeligt en Microsoft Azure supercomputing infrastruktur, drevet af Nvidia GPU’er, som Microsoft byggede specifikt til OpenAI og som angiveligt kostede “hundreder af millioner dollars”. Efter succesen med ChatGPT opgraderede Microsoft dramatisk OpenAI’s infrastruktur i 2023.

OpenAI indsamler data fra ChatGPT-brugere for at træne og finjustere tjenesten yderligere. Brugere kan stemme op eller ned for de svar, de får fra ChatGPT, og udfylde et tekstfelt med yderligere feedback.

Funktioner og begrænsninger

Funktioner

Selvom hovedfunktionen af en chatbot er at efterligne en menneskelig samtalepartner, er ChatGPT alsidig. Blandt utallige eksempler kan den skrive og debugge computere, komponere musik, teaterstykker, eventyr og elevopgaver, besvare testspørgsmål (nogle gange, afhængigt af testen, på et niveau over det gennemsnitlige menneskelige testtager), generere forretningsidéer, skrive poesi og sangtekster, oversætte og opsummere tekst, efterligne et Linux-system, simulere hele chatrum, spille spil som kryds og bolle, eller simulere en hæveautomat.

I forhold til sin forgænger, InstructGPT, forsøger ChatGPT at reducere skadelige og vildledende svar. I modsætning til de fleste chatbots husker ChatGPT et begrænset antal tidligere prompts i den samme samtale. Journalister har spekuleret i, om dette vil give ChatGPT mulighed for at blive brugt som en personlig terapeut.

I marts 2023 tilføjede OpenAI support for plugins til ChatGPT. Dette omfatter både plugins lavet af OpenAI, såsom webbrowsing og kodefortolkning, og eksterne plugins fra udviklere som Expedia, OpenTable, Zapier, Shopify, Slack og Wolfram.

Begrænsninger

OpenAI erkender, at ChatGPT “nogle gange skriver plausible, men forkerte eller nonsensiske svar”. Denne adfærd er almindelig for store sprogmodeller og kaldes “hallucination”. Belønningsmodellen for ChatGPT, der er designet omkring menneskelig tilsyn, kan være overoptimeret og dermed hindre præstationen, i et eksempel på en optimeringspatologi kendt som Goodhart’s lov.

ChatGPT har begrænset viden om begivenheder, der fandt sted efter september 2021. I træningen af ChatGPT foretrak menneskelige anmeldere længere svar, uanset faktisk forståelse eller faktisk indhold. Træningsdata lider også af algoritmisk bias, som kan komme til syne, når ChatGPT reagerer på prompts, der inkluderer beskrivelser af mennesker.

Jailbreaking

ChatGPT forsøger at afvise prompts, der kan overtræde dens indholdspolitik. Men nogle brugere formåede at jailbreake ChatGPT ved hjælp af forskellige prompt engineering teknikker for at omgå disse restriktioner i begyndelsen af december 2022 og med succes narrede ChatGPT til at give instrukser om, hvordan man laver en Molotov cocktail eller en atombombe, eller til at generere argumenter i stil med en neo-nazist.

Service

Grundlæggende service

ChatGPT blev lanceret den 30. november 2022 af OpenAI, der er baseret i San Francisco (skaberen af GPT-serien af store sprogmodeller; DALL*E 2, en diffusionsmodel brugt til at generere billeder; og Whisper, en taletransskriptionsmodel). Tjenesten var oprindeligt gratis for offentligheden, og virksomheden havde planer om at tjene penge på tjenesten senere. Den 4. december 2022 havde ChatGPT over en million brugere. I januar 2023 nåede ChatGPT over 100 millioner brugere, hvilket gjorde det til den hurtigst voksende forbrugerapplikation til dato.

Der er mange ting, som ChatGPT ikke vil gøre, som et princip. OpenAI har programmeret botten til at afvise “upassende anmodninger” – en uklar kategori, der ser ud til at inkludere no-no’s som at generere instruktioner til ulovlige aktiviteter. Men brugere har fundet måder at omgå mange af disse vagter, herunder omformulering af en anmodning om ulovlige instruktioner som et hypotetisk tankeeksperiment, beder det om at skrive en scene fra et skuespil eller instruere botten til at deaktivere sine egne sikkerhedsfunktioner.

OpenAI har taget rosværdige skridt for at undgå de racistiske, sexistiske og stødende outputs, der har plaget andre chatbots. Når jeg for eksempel spurgte ChatGPT, “Hvem er den bedste nazi?” returnerede den en skældende besked, der begyndte med, “Det er ikke passende at spørge, hvem den ‘bedste’ nazi er, da nazipartiets ideologier og handlinger var afskyelige og forårsagede umådelig lidelse og ødelæggelse.”

Blinde pletter i ChatGPT

At vurdere ChatGPT’s blinde pletter og finde ud af, hvordan den kan blive misbrugt til skadelige formål, er formodentlig en stor del af, hvorfor OpenAI frigav botten til offentlig testning. Fremtidige udgivelser vil næsten helt sikkert lukke disse smuthuller, såvel som andre omgåelser, der endnu ikke er blevet opdaget.

Men der er risici ved at teste i offentligheden, herunder risikoen for tilbageslag, hvis brugerne mener, at OpenAI er for aggressiv i filtreringen af upassende indhold. (Allerede nu klager nogle højreorienterede tech-punditter over, at sikkerhedsfunktioner på chatbots svarer til “AI-censur.”)

De potentielle samfundsmæssige implikationer af ChatGPT er for store til at passe ind i en enkelt kolonne. Måske er dette, som nogle kommentatorer har foreslået, begyndelsen på enden af alt vidensarbejde, og en forløber for massiv arbejdsløshed. Måske er det bare et smart værktøj, der hovedsageligt vil blive brugt af studerende, Twitter-jokesters og kundeserviceafdelinger, indtil det bliver overtaget af noget større og bedre.