Forskjellen på kalkulatoren og KI

Universitas’ idé- og debattredaktør Albert Randsborg spurte forrige uke om KI faktisk er annerledes enn kalkulatoren og bilen, og hvorfor ingen av oss som skriver i Khrono forklarer det. Han har rett i at vi skylder ham et svar. Debatten er forvirrende fordi den handler om to spørsmål som ligner på hverandre.

Først det tekniske. En språkmodell er trent til å gjette neste ord, milliarder av ganger, på enorme mengder tekst. Konsekvensen er viktigere enn matematikken: Modellen lager tekst som virker riktig. Ofte er den det. Men modellen har ingen innebygd sjekk av forskjellen.

Det er her kalkulatorsammenligningen svikter. Kalkulatoren gjør én ting, og svaret kan kontrolleres av alle som kan regne. Språkmodellen formulerer, argumenterer og vurderer kilder – nettopp de ferdighetene vi trenger for å kontrollere det den leverer. Delegerer vi dem bort, delegerer vi også bort evnen til å sjekke. Bilen ga oss svakere hester, men vi trengte aldri hestens ferdigheter for å vurdere om bilen kjørte riktig.

Så hvorfor krangler folk? Fordi optimistene måler assistert prestasjon: hvor godt du løser oppgaven med verktøyet i hånden. Pessimistene bekymrer seg for bevart kompetanse: hva du kan når verktøyet tas bort. Begge kan ha rett samtidig. Andreassens poeng om bedrekarakterer og svakere studenter, slik Randsborg gjengir det, er ikke en selvmotsigelse, det ernettopp dette paret. Forskningen peker i begge retninger, og det meste er målt i én økt. Hva et år med daglig bruk gjør, vet nesten ingen.

I et eksperiment vi nettopp har gjennomført, vurderte over 500 deltakere påstander med og uten KI-hjelp og ble testet igjen en uke senere. Med KI-svaret foran seg traff de ni av ti ganger – uten, omtrent to av tre. De som måtte svare selv først gjorde det ikke bedre uken etter enn de som fikk svaret med en gang. Ferdigheten var lånt, ikke lært. Det avgjørende er trolig ikke hvor mye KI du bruker, men hvilke deler av tenkingen du beholder selv.

Datasentrene og profitten er en reell debatt, men en annen enn den om hva som skjer i hodet til den som bruker verktøyet.

Randsborg sier at hvis ingen kan forklare, spør han bare KI. Gjør det. Og prøv så å forklare svaret til en venn uten skjermen foran deg. Der ligger hele forskjellen.