Implikationer af ChatGPT

I cybersikkerhed

Check Point Research og andre bemærkede, at ChatGPT var i stand til at skrivephishinge-mails ogmalware, især når det kombineres medOpenAI Codex.OpenAI CEO skrev, at avanceret software kunne udgøre "(for eksempel) en enorm cybersikkerhedsrisiko" og fortsatte også med at forudsige "vi kunne komme til ægte AGI (kunstig generel intelligens) i det næste årti, så det er vi nødt til at tage risikoen for ekstremt alvorligt”.Altman hævdede, at mens ChatGPT "naturligvis ikke er tæt på AGI", bør man "stole tileksponentiel.fladt set bagud,lodret kigger fremad."

I den akademiske verden

ChatGPT kan skrive introduktion og abstrakte afsnit af videnskabelige artikler, som rejser etiske spørgsmål.Adskillige aviser har allerede opført ChatGPT som medforfatter.

IAtlanterhavetmagasin,Stephen Marchebemærkede, at dens effekt på den akademiske verden og isæransøgning essayser endnu ikke forstået.Californisk gymnasielærer og forfatter Daniel Herman skrev, at ChatGPT ville indvarsle "slutningen på gymnasieengelsk".I denNaturjournal, påpegede Chris Stokel-Walker, at lærere bør være bekymrede over elever, der bruger ChatGPT til at outsource deres skrivning, men at uddannelsesudbydere vil tilpasse sig for at forbedre kritisk tænkning eller ræsonnement.Emma Bowman medNPRskrev om faren for, at elever plagierer gennem et AI-værktøj, der kan udsende forudindtaget eller meningsløs tekst med en autoritativ tone: "Der er stadig mange tilfælde, hvor du stiller det et spørgsmål, og det vil give dig et meget imponerende lydende svar, der bare er helt forkert."

Joanna Stern medWall Street Journalbeskrev snyd på amerikansk high school engelsk med værktøjet ved at indsende et genereret essay.Professor Darren Hick fraFurman Universitetbeskrev at bemærke ChatGPTs "stil" i et papir indsendt af en studerende.En online GPT-detektor hævdede, at papiret var 99,9 procent tilbøjeligt til at være computergenereret, men Hick havde ingen hårde beviser.Den pågældende studerende indrømmede dog at have brugt GPT, da han blev konfronteret, og som følge heraf svigtede kurset.Hick foreslog en politik med at give en ad hoc individuel mundtlig eksamen om papiremnet, hvis en studerende er stærkt mistænkt for at indsende en AI-genereret opgave.Edward Tian, ​​en senior bachelorstuderende vedPrinceton University, skabte et program, kaldet "GPTZero", der bestemmer, hvor meget af en tekst, der er AI-genereret, hvilket egner sig til at blive brugt til at opdage, om et essay er menneskeligt skrevet for at bekæmpeakademisk plagiat.

Fra den 4. januar 2023 har New York City Department of Education begrænset adgang til ChatGPT fra dets offentlige skoleinternet og enheder.

I en blindet test blev ChatGPT bedømt til at have bestået eksamen på kandidatniveau påUniversity of Minnesotapå niveau med en C+ elev og påWharton School ved University of Pennsylvaniamed en B til B-karakter.(Wikipedia)

Næste gang vil vi tale om etiske bekymringer ved ChatGPT.