Det är precis så den maskininlärning som ligger bakom AI fungerar. Det handlar helt om kurvanpassning, statistik och sannolikhet. På samma sätt som man kan rita en graf över barnets längd, och sedan använda den för att någorlunda förutspå den fortsatta utvecklingen, behandlar den artificiella intelligensen en för oss människor oöverskådlig mängd data för att dra räta linjer och göra förutsägelser.
Om de data som används utgörs av en stor del av internet går det att gissa vilken räcka av bokstäver som bör följa på en fråga som ställs till systemet. Men systemet förstår varken frågan eller innehållet i svaret, lika lite som linjen du drog på papperet vet vad ett barn är.
Ingen vid sina sinnens fulla bruk skulle heller komma på tanken att den bild vi ser av oss själva i en spegel är en oberoende och självständigt tänkande individ. Det enda som finns där är en metallisk yta täckt av glas som reflekterar ljus. Ändå betror många Chat GPT och andra stora språkmodeller om att äga en egen förmåga att lösa svåra problem.
I linje med spegelmetaforen jämför Shannon Vallor med hur den grekiske ynglingen Narkissos får syn på sin egen spegelbild i en damm och blir förälskad. Narkissos kan inte släppa sin avbild med blicken, blir kvar vid dammen och tynar bort…
(L)ika uppenbart som det borde vara att en student inte lär sig någonting av att generera en text med hjälp av AI, lika uppenbart borde det vara att en lärares professionella kunnande är beroende av att faktiskt ta del av studentens arbeten. Det är inte examensarbetet i sig som är syftet med lärandet. Det är det sätt på vilket studentens hjärna utvecklas och förändras som är poängen.
När det sedan gäller att säkerställa resultatet kan AI-systemen varken garantera kvalitet eller sanning. Det yttersta ansvaret måste alltid tas av en mänsklig lärare. Och detta ansvar kräver i sin tur att läraren är delaktig i processen och på så sätt själv tillägnar sig ett professionellt kunnande.
-Ulf Danielsson, Professor i teoretisk fysik, kulturdebattartikel i Dagens Nyheter
Läs mer https://www.dn.se/kultur/ulf-danielsson-ai-gor-att-bara-muntliga-prov-och-salstentor-ar-mojliga/