Med hjälp av ny AI-teknik har forskningsföretaget OpenAI tagit fram en chatbot som är betydligt mer avancerad än de vi är vana vid.

Roboten beskriver sig själv som en språkmodell som är tränad för att producera text. Texten den producerar bygger på en stor mängd data från internet, data som är skrivet av människor.

Chatboten kan hjälpa dig skriva en uppsats, ge dig tips på hur du tränar inför ett maraton eller redogöra för vilken energiform som är effektivast. Den svarar på vilken fråga som helst men medger också när den inte har svaret.

Ifall du ställer en fråga om det gångna året ska du dessvärre inte lita på de svar som roboten ger. Den är nämligen bara tränad på data fram till år 2021 och kan till exempel inte beskriva inflationsläget i euroområdet just nu.

För tillfället är chatboten gratis att använda. Konversationerna du för med roboten används för att förbättra systemet. Därför rekommenderar OpenAI inte att du delar känslig information i dina konversationer.

Hänvisningar saknas

En som har testat ChatGPT är professorn Carl-Gustav Linden. Han forskar i datajournalistik och nyhetsautomation och är av naturliga skäl intresserad av tekniska framsteg.

– Den här chattversionen har blivit mycket bättre än den tidigare, som kom för två och ett halvt år sedan. Nu producerar den mindre nonsens och mera seriöst innehåll.

Trots det är chatboten inget att lita på. Linden beskriver den som full av fel.

– Det som är nytt är att den ändå kan erkänna fel eller möjligheten till att den har fel.

En svaghet som Linden har upptäckt är robotens oförmåga att ange källor.

– Jag bad den skriva en forskningsartikel. Det såg bra ut men referenserna saknades. Som forskare och tidigare journalist är det ganska värdelöst att inte få en källa till ett påstående.

Förutom avsaknaden av källor oroar sig Linden också för risken att osanna påståenden sprids.

– För systemet är som en feedback loop, den refererar tillbaka till sig själv.

Det nya Wikipedia?

Som fördel ser Linden chatbotens förmåga att snabbt ge en övergripande bild av ett ämne, på samma sätt som Wikipedia gör.

– Sedan måste du ju kunna gå igenom materialet på ett kritiskt sätt. Det vill säga, är det som framställs som fakta sant eller falskt? Vilka är källorna? Det är ju ett jättejobb att gå igenom.

Chatbotens teknik skulle också kunna användas i vissa kundbetjäningsuppgifter. Till exempel skulle den kunna ersätta de, inte speciellt bra, chattbotar som många webbplatser använder sig av i dag.

– För ChatGPT är mycket bättre än allt vi har sett tidigare.

Lärare behöver fortbildning

Förutom risken för att falska och partiska påståenden sprids, har ChatGPT också väckt en oro inom skolvärlden. Hur ska lärare förhålla sig till en ny verklighet där elever kan låta en chatbot skriva deras uppsatser?

Enligt Linden borde elever och studenter definitivt fortsätta skriva essäer.

– Det är ett viktigt sätt att lära sig strukturera sina tankar och reflektera över sin egen kunskap.

Istället borde lärarna fundera på strategier för att upptäcka fusk. Här skulle en fortbildning i hur AI fungerar vara till stor nytta.

Det är också något modersmålsläraren och projektledaren för Skrivande skola, Annette Kronholm, förespråkar.

– Lärarna behöver fortbildning och utbildningsstyrelsen behöver komma med direktiv. Jag förväntar mig att våra tjänstemän tänker till där.

Kliniskt desinficerade texter

Kronholm har inte själv kommit åt att testa chatboten, eftersom sidan ofta är kraschad av trafik, men har med skräckblandad förtjusning följt med nyhetsrapporteringen.

– Texterna som roboten verkar producera är språkligt korrekta men kliniskt desinficerade. De innehåller inga svagheter, ingen mänsklig doft eller egen röst.

Det här är något en lärare ska kunna lukta sig till. Plagiatkontrollen ska, som Kronholm uttrycker det, finnas mellan dina öron.

– Problemet är dessvärre att vi inte kan bevisa plagiat. Chatrobotens texter går inte att googla.

Inte läge att stänga ner datorerna

I framtiden tror Kronholm att sofistikerade system tas fram för att avslöja fuskare, både i arbetsliv och studier. Det finns ändå skäl att redan nu tänka till som lärare.

– Det vore ett skräckscenario att nollställa datorerna, slopa hemtentamen och sitta nedkopplad, med papper och penna, i klassrummet. Då riskerar vi ta steg tillbaka.

Istället vill Kronholm bejaka den tekniska utvecklingen och uppmana lärare att kanske rentav använda chatboten som ett hjälpmedel i klassen.

– I bästa fall kan chatboten vara en skrivassistent eller fungera som stöttning i skrivprocessen. Mindre skrivstarka elever skulle till exempel kunna få en botten till en text som de sedan kan bygga vidare på.

Samtidigt är det viktigt att studenter förstår att de inte kan fuskskriva sig igenom gymnasiet.

– För då är du vare sig beredd på studentskrivningar eller universitetsstudier.

För att undvika risken för robotskrivna texter tror Kronholm det kan vara bra att ge kontextbundna uppgifter.

– De kan gå ut på att jämföra eller analysera två olika källor. Då minskar du risken för att någon annan har skrivit en exakt likadan text.