Hoppa till innehållet
POLARISAI ACADEMY
Fördjupning, frivillig

Den här lektionen är en frivillig fördjupning till kursen F07. Den innehåller räkneexempel och fackord. Börja med F07 om du är ny. Till kursen F07 →

FD07 · Första ljuset

Lag, integritet och ansvar — grundkurs

Du kan placera en konkret AI-användning i klasserna tillåtet, villkorat eller förbjudet. Klasserna är kursens husregler, byggda ovanpå GDPR och EU:s AI-förordning. Du kan också ta bort personnummer, kontaktuppgifter och hemligheter ur en text med samma filter varje gång, innan texten skickas.

Nivå
Första ljuset
Tid
10 h (uppskattning)
Förkunskap
F07
Kurs 7 av 7
Hoppa till

Efter kursen kan du

Eleven kan sortera 30 konkreta AI-användningar i tillåtet, villkorat eller förbjudet enligt kursens husregler byggda på GDPR och AI-förordningen, och rensa personuppgifter och hemligheter ur textlaster med ett deterministiskt förfilter.

Personuppgifter och vem som bestämmer

När du skriver in en kunds namn, mejl, telefonnummer eller personnummer i ett verktyg är texten en personuppgift om den pekar ut en levande person. En röstinspelning, ett ansiktsfoto och en chattlogg kopplad till ett konto räknas också. Ett företagsnamn ensamt gör det vanligtvis inte. Kan du peka ut någon genom att lägga ihop uppgifter, till exempel nattsköterskan på avdelning 4, ska du behandla texten som en personuppgift även när namnet saknas. Detsamma gäller ett kundnummer som i ditt register bara kan tillhöra en person.

Den som bestämmer ändamål och medel, alltså varför uppgifterna används och på vilket sätt, är personuppgiftsansvarig. Det är normalt organisationen, inte den anställda som skriver. Företaget som bara kör systemet enligt den ansvariges skriftliga instruktioner är personuppgiftsbiträde. Klistrar du in en kunds fil i en publik chatt svarar normalt din organisation för det, även om du själv valde att skicka den. Leverantören hanterar sedan texten på villkor du sällan ser. Ett skriftligt avtal mellan ansvarig och biträde är sättet att låsa de villkoren innan något skickas.

Rättslig grund, lagringstid och incidenter

GDPR tillåter behandling bara när du har en av sex rättsliga grunder. Samtycke betyder att personen har sagt ja och kan ta tillbaka jaet. Avtal betyder att du behöver uppgiften för att göra det ni kommit överens om. Rättslig förpliktelse betyder att en lag tvingar dig att spara eller rapportera den. Vitala intressen täcker ett allvarligt hot mot liv. Allmänt intresse täcker myndighetsuppgifter. Berättigat intresse kräver tre saker: ett verkligt intresse, att behandlingen är nödvändig för det, och en avvägning där personens intressen och rättigheter inte väger tyngre. Vad personen rimligen kan räkna med ingår i den avvägningen. Välj grunden innan du skickar något, och skriv ned den.

Spara personuppgifter bara så länge det angivna syftet kräver dem. Därefter raderar du dem eller avidentifierar dem så att ingen kan peka ut personen. En person kan begära att du raderar uppgifter om hen. Du raderar till exempel när syftet är slut, när samtycket tas tillbaka, eller när uppgiften aldrig var laglig att ha, om inte en lag säger att filen ska ligga kvar. Skriv lagringstiden bredvid syftet före första uppladdningen, i dagar eller månader du kan kontrollera.

Om en personuppgiftsincident sannolikt riskerar människors rättigheter och friheter ska du anmäla den till tillsynsmyndigheten inom 72 timmar från att du fick vetskap, när det är görligt. Informera de berörda när risken för dem är hög. Böter för de allvarligaste GDPR-brotten kan uppgå till 20 miljoner euro eller 4 procent av den globala årsomsättningen, beroende på vilket belopp som är högre. Texten är allmän information för lärande. Be en kvalificerad jurist tillämpa reglerna på ett verkligt ärende.

AI-förordningen: kunnighet, öppenhet och förbud

Artikel 4 i EU:s AI-förordning kräver att företag som tillhandahåller eller använder AI ser till att personerna som sköter systemen har tillräcklig AI-kunnighet. Det betyder att de förstår vad systemet kan, var det fallerar, och vilken skada ett felaktigt svar kan göra i deras arbete. En klinik, en skola och en webbshop behöver olika djup. Om personal klistrar in kundtext i en modell ska de ha en skriven regel för vad som får klistras in, vem som granskar svaret, och när en människa avgör.

Artikel 50 kräver öppenhet. Om en person skäligen kan tro att hen pratar med en människa ska du säga att hen pratar med en AI. Samma tanke gäller märkning av syntetiskt ljud, bild och video när reglerna säger att mottagaren måste kunna se att innehållet är genererat. En rad i sidfoten som läsaren aldrig ser uppfyller inte kravet. Ge upplysningen senast vid första interaktionen, på vanlig svenska, på den skärm personen faktiskt använder, också på en telefon.

Vissa användningar är förbjudna i EU. Artikel 5.1 a förbjuder subliminala, manipulativa eller vilseledande tekniker som väsentligt snedvrider beteendet genom att försvaga ett informerat beslut och orsakar, eller rimligen kan orsaka, betydande skada. Artikel 5.1 b förbjuder att på samma sätt utnyttja en sårbarhet kopplad till ålder, funktionsnedsättning eller en viss social eller ekonomisk situation. Social poängsättning som betygsätter en person över flera livsområden och sedan nekar en tjänst är förbjuden. Artikel 5.1 e förbjuder att skapa eller bygga ut en databas för ansiktsigenkänning genom oriktad skrapning av ansiktsbilder från internet eller övervakningskameror. Känsloigenkänning på jobbet och i skolan är förbjuden, bortsett från smala undantag du ska utgå från att du saknar. Ligger idén på den listan avbryter du.

Upphovsrätt, nycklar och Polaris regler

Klistra in en text, en bild eller en inspelning i en modell bara när du redan har rätt att använda den för det syftet. En låst artikel, ett opublicerat kundutkast och ett privat foto kräver den rätten först. En inloggning på en webbplats låter dig läsa sidan. Att skicka filen vidare till en modellleverantör kräver en egen rätt. Läs varje svar innan du publicerar. Stryk det som upprepar källmaterial du inte fick återanvända, och notera vad du själv matade in.

En API-nyckel är en hemlighet som kan dra pengar och läsa data i ditt namn. Lägg den i en miljövariabel på datorn som kör programmet, och läs in den vid start. Håll den borta från källkod, chattfönster, skärmbilder och ärenden. Har nyckeln hamnat på någon av de platserna återkallar du den och skapar en ny. Innan ett underlag lämnar din dator kör du ett fast förfilter, samma mönster, samma ordning, varje gång. Ta bort personnummer, mejladresser, telefonnummer och strängar som ser ut som nycklar.

Fyra husregler hos Polaris gäller före övningsarbete. Presentera aldrig en chattbot som en människa. Klistra aldrig in personuppgifter eller hemligheter i en publik chattbot. Mata aldrig in material du saknar rätt att använda. Lägg aldrig en API-nyckel i kod eller i en prompt. Bryter du mot en är fallet förbjudet här. Villkorat betyder att du går vidare först efter en namngiven åtgärd, till exempel en rättslig grund eller ett färdigt förfilter. Tillåtet betyder att texten är din, utan personuppgifter och hemligheter, och att assistenten visar att den är AI.

Ett exempel

Tre fall och ett filter du kan räkna själv

Sätt samma tre etiketter på varje fall: förbjudet, villkorat eller tillåtet. Fall ett. En butiksbot öppnar med ett mänskligt förnamn och en yrkestitel, och skärmen säger aldrig att talaren är programvara. En rimlig person kan tro att hen nått en anställd. Artikel 50 kräver att det klart framgår att samtalet sker med en AI, och husregel ett förbjuder människospelet. Etikett: förbjudet. Det blir möjligt att släppa först när första meddelandet själv säger att assistenten är AI, med ord användaren ser på just den skärmen.

Fall två. En handläggare klistrar in det här exempelmejlet i en publik chattbot: "Anna Berg, personnummer 19800505-1234, order 4401, vänligen återbetala." Personnumret är påhittat för övningen, men formen pekar ut en levande person. Det publika verktyget har inget biträdesavtal du kan visa upp, och du har varken skrivit en rättslig grund eller en lagringstid. Husregel två förbjuder inklistringen. Etikett: förbjudet. Samma mejl kan bli villkorat bara i ett verktyg arbetsgivaren har avtalat, efter att grunden och lagringstiden är nedskrivna och förfiltret har körts.

Fall tre. Du ber en modell korta dina egna anteckningar: "Diskuterade budgetutkastet. Nästa steg är en ensidig promemoria på tisdag." Du skrev anteckningarna. De innehåller inget namn, ingen kontaktuppgift, inget personnummer och ingen hemlighet. Etikett: tillåtet. Du kör ändå filtret, så att en senare mening inte kan smyga in ett namn utan att träffräknaren rör sig.

Kör nu filtret på mejlet i fall två. Det är ett exempel du kan kontrollera för hand. Mejlet är 71 tecken. Regeln ID träffar åtta siffror, bindestreck och fyra siffror. En träff, 19800505-1234, 13 tecken på plats 25 till 37. Byt mot [ID], 4 tecken. Regeln NAMN träffar två ord i rad som båda börjar med versal. En träff, Anna Berg, 9 tecken på plats 1 till 9. Byt mot [NAMN], 6 tecken. Regeln MEJL träffar ett @. Noll träffar. Regeln NYCKEL träffar sk- plus minst tio tecken till. Noll träffar. Borttaget: 13 + 9 = 22. Infogat: 4 + 6 = 10. Nettot: 22 - 10 = 12. Ny längd: 71 - 12 = 59. Den rensade exempelraden lyder: "[NAMN], personnummer [ID], order 4401, vänligen återbetala." Order 4401 är kvar, eftersom fyra siffror inte matchar ID-regeln. Filtret kontrollerar formen, inte att numret är ett äkta personnummer.

Övning

Rensa en anteckning på papper

Skriv av den här exempelraden i en textredigerare eller på papper: "Note: Kari Nilsen called. Email kari.n@example.com. Ref 2020. Key sk-abc1234567890 sits in the draft." Raden är på engelska så att teckenräkningen blir entydig. Tillämpa reglerna i den här ordningen. NAMN: två ord i rad som båda börjar med versal blir [NAME]. MEJL: en token som innehåller @ blir [EMAIL]. NYCKEL: sk- följt av minst tio tecken blir [KEY]. ID: åtta siffror, bindestreck och fyra siffror blir [ID]. Märk sedan handlingen att klistra in originalet i en publik chattbot som tillåtet, villkorat eller förbjudet, och räkna tecknen i den rensade raden.

Den rensade raden är "Note: [NAME] called. Email [EMAIL]. Ref 2020. Key [KEY] sits in the draft." Originalet har 101 tecken och den rensade raden har 74, eftersom du tog bort 11 + 18 + 16 = 45 tecken och satte in 6 + 7 + 5 = 18, och 101 - 45 + 18 = 74. Ref 2020 ligger kvar. ID-regeln gav noll träffar. Den publika inklistringen är förbjuden, eftersom originalet innehåller ett namn, en mejladress och en nyckel.

Kontrollfrågor

Svara själv först. Öppna sedan frågan för att se svaret.

Hur många rättsliga grunder har GDPR för behandling av personuppgifter, och vilken grund kan personen ta tillbaka?

Sex. Samtycke, eftersom det bara gäller så länge personen står fast vid sitt ja och kan återkalla det.

En incident riskerar sannolikt människors rättigheter. Hur snabbt anmäler du till tillsynsmyndigheten, räknat från att du fick vetskap, när det är görligt?

Inom 72 timmar.

Vilken etikett får en chattbot som använder ett mänskligt namn och aldrig säger att den är AI, och vilken artikel i AI-förordningen är skälet i den här texten?

Förbjudet enligt husregel ett. Skälet i AI-förordningen är artikel 50, som kräver att personen får veta att hen pratar med en AI.

I det genomräknade mejlet på 71 tecken, vad blir den rensade längden efter bytena för ID och NAMN, och vilken klass har den publika inklistringen?

59 tecken. Den publika inklistringen är förbjuden.

Ta med dig

Skriv syfte, rättslig grund och lagringstid innan personuppgifter flyttas, och säg till när en person pratar med en AI. Kör samma förfilter på varje underlag så att personnummer och nycklar stannar på din dator.

Slutuppgift

Klara ett nyckelrättat prov på 30 uppgifter om juridik och säkerhet och lämna in ett förfilter som tar bort 100 % av utlagda personuppgifter, e-postadresser, telefonnummer och API-nycklar i 20 fasta testunderlag.

Slutuppgiften rättas av fasta facit och automatiska tester när proven öppnar.

Prov och diplom kommer

Lektionen är öppen att läsa. Prov, diplom och konto kommer senare; väntelistan är till för dem. Till väntelistan