Kunstig intelligens (KI)

Kunstig intelligens (KI) eller "artificial intelligence" (AI) på engelsk, er et samlebegrep på datasystemer som kan lære av egne erfaringer og løse komplekse problemer i ulike situasjoner. Hvis en maskin kan løse problemer, utføre en oppgave eller vise andre kognitive funksjoner som likner på menneskelig tenkning, så kan vi si at det har kunstig intelligens. KI kan for eksempel brukes til å kjenne igjen ansikt, oversette språk, spille sjakk, diagnostisere sykdommer og kjøre biler. 

Kunstig intelligens er delt inn i to hovedkategorier: 

• Kunstig generell intelligens (generative tjenester): Tjenesten har evne til å løse et bredt spekter av oppgaver.
• Kunstig spesialisert/smal intelligens (spesialiserte tjenester): Tjenesten er spesialisert på å løse én bestemt oppgave.

Språkmodeller

Språkmodeller er en modelltype innen kunstig intelligens som er opplært til å generere menneskeliknende tekst. De er utformet for å forstå og generere tekst i et naturlig språk, noe som gjør dem ideelle for oppgaver som språkoversetting, tekstgenerering og tekstklassifisering. Når språkmodeller skal brukes, trenger de ledetekster eller "prompts" som brukeren mater inn i modellen. En ledetekst er en setning som blir brukt til å generere et svar. 

Det finnes ulike språkmodeller. Per i dag er de største leverandørene OpenAI med ChatGPT og Google med Gemini. Mange kjenner for øvrig til MyAI i Snapchat og liknende KI-løsninger man møter i apper og på nett. ChatGPT, Gemini, MyAI og andre er eksempler på det vi med en samlebetegnelse kaller prateroboter.

Hvordan generer språkmodellene tekst?

Språkmodeller lærer seg å forstå og produsere tekst ved å analysere store mengder tekstdata. De bruker statistikk og mønstre for å forutsi hvilke ord eller setninger som sannsynligvis kommer etter en gitt kontekst. Når en språkmodell er trent, kan den generere tekst ved å kombinere mønstre og sannsynligheter. For eksempel kan den fullføre ufullstendige setninger eller skrive nye setninger basert på tidligere erfaringer.

Det er viktig å huske at datasettet språkmodellene legger til grunn, kan være hele internett. Siden vi ikke har kontroll på det statistiske grunnlaget for praterobotens svar, eller om et datagrunnlag for eksempel er preget av religiøse, politiske eller andre overbevisninger, vil det ikke være mulig å ha full kontroll på faktagrunnlaget bak det prateroboten skriver.

Språkmodeller kan også komme med grove faktafeil. En ulempe med at språkmodeller kan generere tekst selv, er at de av og til finner opp svar. Det er derfor svært viktig at vi alltid sjekker faktagrunnlaget i svaret vi får fra en praterobot.

Microsoft Copilot

Ansatte i fylkeskommunen har tilgang på en beskyttet versjon av Microsoft Copilot bedrift, som betyr at den er trygg og sikker å bruke. Bruk av Copilot bedrift forhindrer lekkasje av konfidensiell bedriftsinformasjon, mens bruk av AI-verktøy på nettet kan eksponere private data for offentligheten. Man sjekker at man er innlogget på Copilot ved å se e-postadressen øverst til høyre på skjermen, og at det lyser grønt «Beskyttet». 

Elevene har per i dag ikke tilgang til en sikker versjon av Copilot.

Hva er NDLA sin praterobot

Trøndelag fylkeskommune er en del av NDLA-samarbeidet og har vurdert tjenesten som NDLA har i Min NDLA ut fra funksjonalitet og personvernhensyn. Konklusjonen er at denne tjenesten sikrer ansatte og elever nødvendig funksjonalitet samtidig som personvern ivaretas. Derfor er dette det KI-verktøyet vi bruker i skoler i Trøndelag fylkeskommune.

NDLA sine prateroboter bruker språkmodellen GPT 3.5 Turbo, som er utviklet av OpenAI. Språkmodellen kjører fra Microsofts europeiske servermiljø. Dette gjør at ingen interaksjon mellom deg og språkmodellen blir sendt ut av Europa. NDLA lagrer ingen persondata knyttet til denne tjenesten. All samhandling med praterobotene foregår direkte mot Microsoft Azure OpenAI. Det du skriver inn, blir bare lagret av Microsoft i 30 dager, og det blir slettet etter denne perioden. Microsoft vil bare se gjennom loggene ved mistanke om misbruk av tjenesten.

Det blir tilbudt to prateroboter, en til elever og en til lærere. Begge har like innstillinger, men de er tilpasset ulike formål. 

Den ene prateroboten er laget for å være en hjelp for elever i videregående opplæring. Sammen med det du skriver blir dette sendt som ledetekst i bakgrunnen: “Skriv som om du er en elevhjelper for elever i videregående skole. Vær pedagogisk og motiverende.”

Den andre prateroboten er laget for å være en hjelp for lærere i videregående skole. Den har fått følgende innledende ledetekst: “Skriv som om du er en lærerhjelper for lærere på videregående skole. Vær didaktisk, hjelpsom og kreativ.”

Innlogging:

1. Gå til ndla.no og velg Min NDLA.
2. Logg på med Feide. 
3. Derfra vil det være lenke til tjenesten. 
4. Eventuelt kan du gå til ai.ndla.no. 

Tjenesten vil ikke være tilgjengelig for de som har eksamen.

Om veiledningen

Det er viktig å være bevisst at KI-feltet utvikler seg raskt, og at det ikke er mulig å få full oversikt over hele feltet. Veiledningen tar utgangspunkt i den informasjonen vi har per nå, og det vil ikke kunne lages en inngående veileder ennå. Denne veiledningen vil bli revidert ved behov.

Trøndelag fylkeskommune har følgende veiledningspunkter for bruk av kunstig intelligens i skolen for å hjelpe fagansvarlige når opplæringen skal planlegges og gjennomføres: 

Veiledning:

1. Ikke skriv eller last opp sensitiv informasjon i prateroboter

   Ikke skriv eller last opp informasjon som er unntatt offentlighet eller inneholder personopplysninger. Bakgrunnen for dette er blant annet GDPR og Forvaltningslovens regler om taushetsplikt.  

2. Ikke last opp bilde, video, lydfiler eller annet av personer det er mulig å identifisere

   Husk at bilde av personer regnes som personopplysninger i GDPR  

3. Krav om åpenhet

   Hvis oppgaven tillater det, kan eleven bruke prateroboter til å videreutvikle idéer og tekst, men resultatene skal ikke erstatte eget arbeid, og teksten skal alltid omarbeides underveis og helt til slutt. Eleven skal alltid være åpen om når og hvordan KI er brukt, for eksempel i et avsnitt i teksten som er levert inn, eller i vedlegg til oppgaver. Kildehenvisninger blir gjort i henhold til gjeldende mal for kildehenvisninger. Se for eksempel Kildekompasset sine nettsider om hvordan referere til materiale som er skrevet av kunstig intelligens. Dette kravet er også gjeldene for andre medietyper, som bilder, lyd, video og annet. 

4. Vær kritisk til svarene fra praterobotene

   Prateroboter benytter språkmodeller som er basert på statistiske relasjoner mellom ord, ikke kunnskap. Språkmodellene har ingen forståelse for, eller kunnskap, om svaret er riktig eller ikke. Kvalitetssikre alltid innhold fra prateroboter.  

5. Prateroboter skal ikke brukes til plagiering og fusk

   En skal ikke generere svar ved hjelp av slike tjenester. Det å levere helt eller delvis som eget svar uten å være åpen om bruken av KI, er å regne som fusk i vurderingssituasjoner. 

6. Fagansvarlige skal vurdere elevarbeid

   Prateroboter kan være en støtte i å gi tilbakemelding på elevers arbeid underveis i læringsprosessen.

Hva betyr "prompts"? Prompts kan i KI-sammenheng oversettes til ledetekst eller kommandoer du bruker i kommunikasjonen din med KI. Ledeteksten blir brukt både til å definere på hvilken form KI skal svare og hvilke svar du får. Jo mer spesifikk ledetekstene er, jo bedre svar vil du få. Det kan være lurt å dele en oppgave eller spørsmål inn i mindre deler og sekvenser.

KI kan ikke lese tankene dine, så du må ta en samtale med den. Du må derfor inkludere detaljer og spesifikke referanser i spørsmålene og kommandoene dine. Hvis du opplever at svaret er for langt kan du be om et kortere svar. Hvis svaret er for lett kan du be om mer avanserte svar. Vær alltid kritisk reflekterende til svarene du får fra kunstig intelligens.

Se på prateroboten som en ivrig medelev eller lærer som du kan spørre om alt, og som aldri blir lei av å forklare enklere eller utdype mer og som alltid har tid til å hjelpe. Dette kan være til stor nytte for elever som ikke tør å si at de ikke forstår, eller som ikke har noen å spørre om hjelp hjemme. 

Viktig: Siden dagens prateroboter er språkmodeller og ikke kunnskapsmodeller, er kvaliteten på spørsmålene vesentlig for resultatet. Her er noen eksempler på hvordan en kan lage «prompts» eller ledetekster til praterobotene: 

• Hva er et synonym for [sett inn ord]? 
• Oppsummer temaet [sett inn tema] 
• Definer begrepet [sett inn begrep] 
• Lag en liste over [sett inn tema] 
• Gi eksempel på hvordan [sett inn begrep/tema] 
• Forenkle dette: [sett inn tekst] 
• Forkort dette: [sett inn tekst] 

Prateroboter kan også være nyttige i andre læringssituasjoner, for eksempel for å øve på kritisk tenking eller å bruke kunnskap: 

• La oss diskutere fordeler og ulemper med skoleuniformer. Du er imot, jeg er for. Du starter.
• La oss ha en samtale på spansk om hjemstedet mitt, du starter med å spørre "hvor bor du?". Rett feilene i teksten min underveis.

Se forslag til bruk i undervisningen på Møre og Romsdal fylkeskommune sine hjemmesider : Korleis kan lærarane bruke KI?

Dagens språkmodeller er på ingen måte perfekte, og det er viktig at du er klar over dette.

Har språkmodellene meninger?

Prateroboter som ChatGPT har ikke egne meninger. Dette er maskinlæringsteknologi som genererer svar basert på mønstre i treningsdata, uten å ha en subjektiv oppfatning. OpenAI, Google og andre leverandører av prateroboter har strenge retningslinjer for objektivitet. Utviklerne vil ikke at systemet skal være basert på synsing. Dette vil imidlertid ikke forhindre oss i å bruke prateroboter til å uttrykke våre meninger, hvis vi ønsker det.

Forståelse av konsepter:

Språkmodeller kan misforstå konsepter - ofte fordi de ikke forstår hva som er konteksten i en situasjon. La oss ta en enkel oppgave: To biler står på samme sted. Bil A flyttes hundre meter fremover. Bil B flyttes ti meter bakover. Bil A flyttes tilbake til utgangspunktet. Hvor langt er det mellom dem nå? Prateroboten du spør, vil kanskje svare hundre og ti meter. Den forstår ikke at bil A har flyttet seg tilbake, og at det bare er ti meter mellom dem.

Sammenheng i lengre tekster:

Selv om en praterobot husker tidligere svar i en samtale, kan den noen ganger glemme konteksten. Som vi var inne på i forrige punkt er det heller ikke alltid den forstår kontekst. Dette kan føre til inkonsekvent tekstinnhold i lengre tekster. Hvis prateroboten blir bedt om å skrive en bok, kan manglende forståelse og dårlig «hukommelse» gjøre at innholdet i teksten ikke henger sammen.

Dybde i tekst:

Prateroboter kan skape overfladiske fortellinger. Prateroboter kan generere tekst, men fortellingen mangler dybden som en erfaren forfatter kunne tilført.

Faktagrunnlag:

Språkmodeller har ikke full kontroll over faktagrunnlaget som ligger til grunn for teksten de genererer. Det er viktig å kritisk vurdere informasjonen praterobotene gir.

Sitering og referanser:

Prateroboter kan ha problemer med korrekt sitering og referanser. Det er viktig å være klar over at informasjonen den gir, ikke alltid er basert på faktiske kilder. Prateroboten kan av og til finne opp både sitater og referanser. Hvis du ber en praterobot om å sitere fra en bok, en video eller en tekst, klarer den heller ikke å plassere hermetegn på rett sted. Med mindre det er snakk om veldig berømte sitater, klarer den ikke å markere dem skikkelig som et sitat. Dette kommer av at praterobotene ikke vet hvor informasjonen den genererer, kommer fra. 

Kjønnsnøytralitet:

Språkmodeller kan forsterke kjønnsstereotypier, selv om det ikke er intendert. Det er viktig å være bevisst på dette når man bruker slike verktøy. Eksempel: Hvis du ber en praterobot om å skrive en historie om en professor, gjør prateroboten professoren til en mann. Den kan dermed forsterke holdninger om kjønn som allerede eksisterer i samfunnet. Prateroboten kan lage skiller som etableres gjennom antall ganger de er funnet i kildematerialet – men som ikke dermed anses som gyldige i samfunnet.

Krenkelser:

OpenAI, Google og andre leverandører av prateroboter har strenge retningslinjer for å unngå krenkelser. Det er likevel alltid mulig at slike situasjoner kan oppstå. 

Humor og politisk nøytralitet:

Humor og politisk nøytralitet er utfordrende for kunstig intelligens. ChatGPT og andre prateroboter kan generere vitser, men de er ikke alltid morsomme. Vitsene kan også ha implisitte politiske holdninger, uten at det var hensikten. Prateroboter forstår hvordan vitser er bygget opp, men de kjenner ikke alle nyansene som trengs for at de skal være morsomme. De tar heller ikke stilling til alle tolkningsmulighetene en vits kan ha. Humor er noe veldig menneskelig, og det er noe av det som er vanskelig å få kunstig intelligens til å mestre.

Flere retningslinjer

For ansatte i fylkeskommunen: Flere retningslinjer finnes i:Fylkeskommunens retningslinjer for bruk av kunstig intelligens.

Råd om kunstig intelligens i skolen (UDIR)

Kilder: 

1. Rogaland fylkeskommune - Kunstig intelligens (KI) i skolen
2. Møre og Romsdal fylkeskommune - Kunstig intelligens i skolen
3. Store norske leksikon - Språkmodell
4. Store norske leksikon – Kunstig intelligens
5. Utdanningsdirektoratet - Språkutvikling
6. Helsedirektoratet - Ettertrening og helsefagleg rettleiing av språkmodellar