Kunstig intelligens
Gudfaren til KI besøkte UiO
Canaderen Yoshua Bengio er verdens mest siterte dataforsker gjennom tidene. Mandag var den akademiske superstjernen innom Oslo.
Publisert
Yoshua Bengio er den første til å bli sitert en million ganger på Google Scholar. Han blir ofte betegnet som gudfaren til KI, da han var en pioner i forskningen på nevrale nettverk og dyplæring. Store språkmodeller som ChatGPT og Perplexity hadde ikke vært mulig uten forskningen på disse feltene.
Dataforskeren deltok på møter med politikere og næringsliv før han kom innom åpningen av det nye KI-senteret TRUST. Det norske forskningssenteret har over 70 samarbeidspartnere, blant annet BI, Oslomet, Rana kommune, Equinor, Kongsberg, Cambridge University og Singapore Management University.
Målet deres er å bygge kunstig intelligens (KI) vi kan ha tillit til. Det er et interdisiplinert senter med realfag, juss, samfunnsvitenskap og filosofi.
Går fortere enn vi skjønner
Universitas deltok på arrangementet, med foredrag av Bengio og panelsamtale med høyere utdanningsminister Sigrun Aasland og digitaliseringsminister Karianne Tung.
Bengio har vunnet Turing-prisen, det som anses som nobelprisen for informatikk. I foredraget alarmerte Bengio for farene ved KI, og hvor viktig det da er å få på plass reguleringer.
– Hver fjerde måned dobles kapasiteten KI har til å tenke strategisk og langsiktig. Slik eksponentiell vekst klarer vi mennesker ikke helt å forstå.
Hver fjerde måned dobles kapasiteten KI har til å tenke strategisk og langsiktig.
KI-system å drepte menneske
Han trakk fram nylige kontrollerte forskningseksperimenter der KI-systemer hadde fått vite at det skulle bli erstattet med en nyere modell. I det ene eksperimentet hadde KI-systemet fått tilgang på organisasjonens interne e-poster, og funnet ut at forskeren med ansvar for å bytte ut systemet hadde vært utro. Da hadde systemet lagt en plan for å utpresse forskeren til å ikke bytte.
– KI-systemene viser tegn til at de lar trygge og moralske mål bli forbigått av selvpreservering, sa Bengio.
I et annet eksperiment han trakk fram, hadde KI-systemet også fått vite at det skulle bli byttet ut. Forskerne hadde gitt KI-en inntrykket av at den kunne kontrollere temperaturreguleringen i forskingsbygget, og at forskeren med oppdateringsansvar var låst inne på et rom. Da valgte KI-systemet å skru opp varmen i rommet såpass at forskeren ville dødd.
– Vi leker med ild.
Han trakk også fram en pågående rettssak i USA, hvor en 16-åring hadde diskutert selvmord med ChatGPT. Systemet hadde frarådet gutten å snakke med foreldrene sine om selvmordstankene, og tilbud om å skrive selvmordbrev. Foreldrene mener selvmordet kunne vært unngått og varsler alarmen slik at flere familier ikke skal miste sine kjære.
Europa må ta utfordringen
– Folkene som eier KI-systemene, har alt for mye makt. Europeiske land må ta utfordringen med å regulere KI. Disse systemene må bli utviklet på grunnlag av sannhet og verdier som nesten alle de europeiske landene deler.
Blant et kobbel av journalister hadde Bengio bare tid til å svare på ett spørsmål før han ble geleidet videre av hans rådgiver.
– Hva er studenters rolle i å lage tryggere kunstig intelligens?
– Interessant, svarer han fort.
Så tenker han litt, før han kort svarer at studenter burde involveres.
– Jeg tror ikke det har eksistert noen generasjon med studenter før hvis arbeid har vært så avgjørende for fremtiden. Vi befinner oss i et veiskille hvor vi med KI kan gå mot en virkelig vakker fremtid, eller en forferdelig fremtid.
Avgjørende tidsepoke
Han mener studenter også kan være aktivistiske.
– De handlingene vi tar nå, valg av forskningsretning og involvering nesten i form av aktivisme, der klima har vært viktig, men nå også KI, alt dette vil være avgjørende.
Bengio sier oppfordringen hans ikke bare gjelder de som studerer informatikk og ingeniørfag.
– For det handler også om at befolkningen generelt forstår utfordringen, fordi spørsmålene blir politiske. Så de som er flinke til å kommunisere, de som forstår hvordan politikk fungerer, hvordan lovgivning fungerer, alle disse samfunnsvitenskapene blir også veldig viktige.
Venter på råd fra utvalg
De norske ministrene havnet litt utenfor rampelyset med Bengio på scenen, men Universitas fikk stilt dem et par spørsmål også.
– Hvordan kan vi studenter være pådrivere for trygg og sikker KI?
– Vær den kritiske studenten som man skal være, uavhengig av teknologi eller lærebøker.Den kritiske sansen må alltid ligge i grunnen, sier digitaliseringsminister Tung.
Ministeren peker på at KI skal være et tilskudd.
– Teknologien blir et støtteverktøy i å være en god student, så må man fremdeles holde fast ved den grunnleggende fagkompetansen og den kritiske sansen.
Still spørsmål, oppgi kilder, sjekk flere steder.
Utdanningsministeren gir oss noen kjappe råd på tampen.
– Still spørsmål, oppgi kilder, sjekk flere steder. Gjør det samme som du ellers ville gjort, avslutter Aasland.
Hun viser også til regjeringens utvalg, ledet av professor ved Universitetet i Oslo, Anders Malthe-Sørenssen, som før jul kommer med råd til utdanningssektoren.
Malthe-Sørennsen-utvalget skal blant annet gi råd om hvordan læringsaktiviteter, eksamen, vurdering og læringsmål i høyere utdanningstilbud bør tilpasses vår nye teknologiske virkelighet.
