I juni-utgaven av Skolemagasinet kritiserte pedagog og forfatter Eldar Dybvik det etiske grunnlaget til forsknings- og utviklingsprosjektet AVT, som utforsker bruk av elevdata for læringsanalyse. I oktober har SLATE, KS og Oslo kommune Utdanningsetaten svart på kritikken i Skolemagasinet.  

Forsknings- og utviklingsprosjektet Aktivitetsdata for vurdering og tilpasning (2017 – 2019) var et samarbeid mellom forskningssenteret SLATE ved Universitetet i Bergen, Kommunesektorens organisasjon (KS) og Oslo kommune Utdanningsetaten. Sammen utforsket de bruk av elevdata for læringsanalyse. AVT-prosjektet utarbeidet et rammeverk for læringsanalyse og kunstig intelligens i skolen, med formål om å støtte tilpasset undervisning og anbefaling av relevante læringsressurser. I 2019 startet prosjektmedlemmene AVT2-prosjektet, som bygger videre på AVT-prosjektet.

I den nyeste utgaven av spalten Eldars tenkehjørne i Skolemagasinet fra 9. juni, med tittelen «Når alarmklokkene ringer», rettet pedagog og forfatter Eldar Dybvik kritikk mot prosjektet. Kritikken var hans personlige etiske vurdering, med fokus på elevenes personvern.

Etter å ha lest spalten, så prosjektmedlemmene fra SLATE, KS og Oslo kommune Utdanningsetaten et behov for å klare opp i det de mener er misforståelser rundt beskrivelsen av prosjektets formål og aktiviteter. Derfor ble det publisert et tilsvar i oktober-utgaven av Skolemagasinet. Forfatterne bak tilsvaret var professor og direktør ved SLATE, Barbara Wasson, forsker ved SLATE, Jeanette Samuelsen, fagkonsulent ved Oslo kommune Utdanningsetaten, Brian Jørgensen, og spesialrådgiver ved KS, Lene Karin Wiberg.

Dybviks kritikk mot AVT-prosjektet

I sitt innlegg fra 9. juni, beskriver Eldar Dybvik AVT-prosjektet som «…et prosjekt drevet av KS og Oslo kommune for å registrere og overvåke elevdata for å drive med noe de kaller læringsanalyse». Dybvik mener at «[…] læringssynet i prosjektet kolliderer med alt av verdier og visjoner i skolens overordnede dokumenter». Elevene som deltar i prosjektet, beskriver han slik: «På bunnen i hierarkiet finner vi elevene. De er hjelpeløst stengt inne som gisler og blir sendt rundt i en labyrint av piler og bokser i såkalte fagkart, som det er omtrent umulig å komme ut fra, langt mindre påvirke eller styre selv.»

‍

Dybvik trekker også inn det han kaller innvendinger fra Datatilsynet mot det rettslige grunnlaget for prosjektet og mot konsekvenser for elevenes personvern. Datatilsynets sluttrapport fra februar 2022 om AVT2-prosjektet kan man lese her.

Om det rettslige grunnlaget for prosjektet, skriver Datatilsynet blant annet:

«Datatilsynets innspill er å anse som veiledning, og utgjør ingen lovlighetsvurdering av læringsanalysesystemet. Samtidig er AVT-prosjektet bevisst på at det er sentrale spørsmål om databehandlingen i anvendelsen av systemet som de ikke har fått erfaring med enda, og som kan medføre at de på et senere tidspunkt vil endre sin vurdering av behandlingsgrunnlaget. Vi vil også fremholde at utdanningssektoren har anledning til å ta initiativ til å få på plass et sterkere rettslig grunnlag enn den har i dag. I den nye opplæringsloven kan det for eksempel gis en tydelig hjemmel for bruk av kunstig intelligens og digital læringsanalyse, med klarere rammer for bruk.»

I Datatilsynets sluttrapport kan man også lese om deres vurdering av mulige konsekvenser for elevenes personvern. Datatilsynet nevner at AVT2-prosjektet allerede hadde gjennomført en vurdering av personvernkonsekvenser (DPIA – Data Protection Impact Assessment) før sandkasseprosjektet sammen med Datatilsynet, men at Datatilsynet og AVT2-prosjektet kun fikk gjennomført én aktivitet knyttet til DPIA i sandkassen fordi tiden ikke strakk til. Datatilsynet går også gjennom potensielle risikofaktorer de har identifisert i prosjektet, med hensyn til elevenes personvern. Alle disse er tilgjengelige i sluttrapporten.

AVT-prosjektets svar til Dybvik

Ettersom AVT-prosjektet har utforsket etisk databruk og elevenes personvern gjennom å delta i Datatilsynets sandkasse for ansvarlig kunstig intelligens, er prosjektets medlemmer allerede klar over mange av risikofaktorene, og er åpne om dette. Den 16. februar 2022 inviterte SLATE til et webinar om læringsanalyse i skolen, hvor Datatilsynet, KS og Oslo kommune Utdanningsetaten presenterte sluttrapporten om AVT2-prosjektet fra Datatilsynet.  

Den 11. oktober ble tilsvaret fra AVT-prosjektets representanter fra SLATE, KS og Oslo kommune Utdanningsetaten publisert i Skolemagasinet.

‍

I tilsvaret understreker prosjektmedlemmene at de også er svært opptatt av etikk med hensyn til innsamling av data fra elever: «Vi i AVT-prosjektet deler noen av bekymringene som Dybvik har om bruk av elevdata». Samtidig mener de at Dybviks fremstilling av AVT-prosjektet ikke stemmer overens med prosjektets formål, og fremhever at de ikke kun er opptatt av å se på mulighetene «[…] ved å benytte læringsanalyse og kunstig intelligens for å analysere elevers aktivitetsdata på tvers av ulike digitale læremidler», men også utfordringene. «AVT ser både på de teknologiske, pedagogiske, etiske og juridiske sidene ved kommunenes bruk av aktivitetsdata for adaptiv læring og læringsanalyse.»

Derfor deler AVT-prosjektets representanter fra SLATE, KS og Oslo kommune Utdanningsetaten detaljert informasjon i tilsvaret for å prøve å gi Dybvik og leserne mer innsikt både i prosjektets aktiviteter og prosjektmedlemmenes holdninger:  

«Etisk bruk av elevenes aktivitetsdata har vi aktivt utforsket gjennom deltakelse i Datatilsynets sandkasse for ansvarlig kunstig intelligens. Læringsanalyse er allerede en del av norsk skolehverdag. Med forskningsprosjektet vårt jobber vi for at skole-Norge skal være i forkant og ønsker derfor - i trygge, avgrensa rammer - å identifisere både muligheter, utfordringer og etiske dilemma vi vil komme til å se ved bruken av læringsanalyse fremover. Vi vil derfor trekke frem noen fakta om AVT-prosjektet og læringsanalyse og håper Dybvik og andre engasjerte lesere ser at vi nettopp ønsker at alarmklokkene skal ringe - når det er grunn til det.»

I den samme oktober-utgaven av Skolemagasinet fra i år, kommer Eldar Dybvik med et eget tilsvar under tittelen «Alarm! Alarm!». I denne omgangen retter han kritikken kun mot KS.