Etiske KI-problemer du bør vurdere som en digital virksomhet for å holde deg unna trøbbel

18. juli 2023

Å bruke KI til å lufte idéer og å kopiere og lime inn KI-output for å fullstendig automatisere innholdsproduksjonsprosessen din er ikke det samme. Her er etiske KI-problemer du bør vurdere...

Samtalen om kunstig intelligens (KI) er mettet, men så vidt begynt. Vi blir stadig bombardert med nye KI-drevne verktøy og applikasjoner. Det kan være vanskelig å holde tritt med de nyeste trendene, og det er enda vanskeligere å vite hvilke verktøy som er verdt å bruke.

Men én ting jeg har lært er at KI ikke er en mirakelkur. Den kan ikke gjøre alt for oss. Den har etiske problemer. Jeg har aldri fått noe fra GPT som jeg stolt ville satt ordrett noe sted. Det er alltid et spørsmål om menneske + teknologi. KI kan hjelpe deg med å generere idéer, men det er opp til deg å redigere og forfine disse idéene.

Legg til spekulasjonen om at noen KI-selskaper, for å spare ressurser, bruker flere mindre GPT-modeller i stedet for én enkelt stor GPT-modell. Hver KI-modell trenes på ulike datasett, noe som reiser spørsmål om eierskapet til disse dataene. Etter hvert som mer data brukes, blir KI-modellene bedre. På den andre siden gjelder: jo mer data du har tilgang til, desto flere problemer med immaterielle rettigheter og personvern.

Vi har altså mye å lære og må være bevisste på de etiske utfordringene. Det er det vi diskuterer i denne artikkelen.

Menneske eller KI?

KI-generert output tar over digitale virksomheter, men hvor mye bør de etiske problemene med KI bekymre deg?

Det første som faller meg inn ville handle om å ‘gjøre innholdet til ditt eget’.

Du må fortsatt tenke på hva du skaper og innse at det er et menneske på den andre siden. Så vær stolt av den kreative prosessen, det er ikke en helt ‘hands-off’-tilnærming.

Men hver gang jeg har brukt KI-systemer, har jeg hatt etiske spørsmål i tankene. Da jeg tok kontakt med andre mennesker, hadde de lignende dilemmaer.

Her er noen av de forklarbare etiske problemene med kunstig intelligens:

1

Eierskap til KI-generert innhold/kode.

Hvis du bruker et KI-verktøy til å skrive et blogginnlegg eller en kode, hvem eier opphavsretten til det? Er det deg, verktøyleverandøren eller noen andre?

En bedre måte å si dette på ville være hvem som eier de ‘immaterielle rettighetene’ som innhold og kode ville være delmengder av.

2

Alle data du mater inn i KI kan hjelpe konkurrentene dine.

Hvis du bruker KI-teknologi til å generere output, vil disse dataene bli brukt til å trene andre KI-verktøy?

For eksempel kan du legge inn bedriftsdata som kan være til nytte for konkurrentene dine, proprietær kildekode som burde holdes som en bedriftshemmelighet, eller markedsføringsposisjonering/kampanjer som ville være til fordel for konkurrentene dine.

3

Å bli saksøkt for å bruke KI-generert output

Det har vært tilfeller der folk har blitt saksøkt for å bruke output som ble generert av KI. Til info: selv verdens største søkemotorselskap blir saksøkt.

4

KI som hjelper/skader søkemotoroptimalisering.

Vi lurer alle på hvorfor menneskeskapt innhold kanskje ikke engang har en rolle i fremtiden. KI kan generere optimalisert innhold for søkemotorer. Men vil dette føre til en verdiminskning av menneskeskapt innhold? Eller vil KI og menneskeskapt innhold utfylle hverandre?

5

Personvern – å dele detaljer om bedriften din med KI-er.

KI-verktøy trenger data for å trene og fungere. Hva slags data trenger de? Og hvordan vil disse dataene bli brukt? Hva er personvernkonsekvensene av å dele data med KI-verktøy?

6

Korrekthet.

KI-verktøy og chatboter er ikke perfekte. De vil gjøre feil. Hva skjer når et KI-verktøy genererer feilaktig innhold? Hvem er ansvarlig for unøyaktighetene? Hvordan forblir du ansvarlig i den virkelige verden?

7

Å miste jobber til KI.

Hvis du kan lage 10 ganger så mye innhold med 10 % av ressursene, vil det sette ut jobben din som markedsfører til KI? Hva skjer med menneskelig beslutningstaking? Hva med menneskerettigheter?

8

Å redusere verdien av innhold.

Hvis KI kan generere innhold som ikke kan skilles fra menneskeskapt innhold, vil dette redusere verdien av innhold? Vil folk være mindre villige til å betale for innhold hvis de kan få det gratis fra et KI-verktøy?

9

KI-data kan være skjevt

KI-verktøy er avhengige av treningsdata for å levere output. Det dataene mater inn er det du får. Det er her den kan lære skjevheter og stereotypier fra treningsdataene.

Det er åpenbart at generativ KI har problemer

Generativ kunstig intelligens er ikke alltid nøyaktig. Ikke bruk den som eneste sannhetskilde, fordi du ikke vet om det er tilfellet. Og det vi mater inn er det vi får.

En annen etisk bekymring er at hvis du legger sensitiv bedriftsinformasjon inn i KI, vil verktøyets morselskap få tilgang til den. De står fritt til å bruke den informasjonen som de vil — gå ut fra at alt du legger inn vil være offentlig tilgjengelig.

Så ikke del sensitive eller konfidensielle data uten passende autorisasjon. Det er viktig å sikre at dataene som brukes til å trene den generative KI-modellen er innhentet lovlig og med riktig samtykke, og ikke bryter noen lover eller forskrifter. De fleste offentlige generative KI-tjenester (for eksempel Chat-GPT) deler imidlertid ikke hvilke datasett de trener på. Så vi vet ikke hvem som egentlig eier outputen.

Dette betyr også at vi ikke kan verifisere i hvilken grad outputen er skjev. KI-skjevhet er reell. Modeller lærer skjevheter og stereotypier fra treningsdataene. Den er i stand til å produsere ekstremt overbevisende usannheter. Stol aldri på KI-generert innhold som eneste sannhetskilde, spesielt til researchformål. Selv om du bare bruker KI til å generere alt innholdet ditt, del det med forbrukeren.

KI-bekymringer er ikke vanskelige å gjennomskue. For eksempel er ren KI-tekst full av spor om hvorfor den ikke er den beste løsningen for deg. Listen omfatter:

  • Lange, uthalte avsnitt og tekst
  • Ubehagelig formelle toner og lange setningsstrukturer
  • Overdreven bruk av adjektiver og irrelevant personalisering
  • Å fabrikkere fakta basert på visse meninger

Etikken ved KI

Til å begynne med er det tilrådelig å bruke generativ KI med en bedriftsutstedt lisens. Det er viktig fra et ansvars- og eierskapsperspektiv. Selv da bør du aldri kopiere og lime inn hele innhold eller kode fra KI. Rediger, modifiser og legg alltid til KI-outputen for å gjøre den unik.

  • Databeskyttelse er nøkkelen. Ikke stol implisitt på all output, ettersom nøyaktigheten kan være tvilsom eller skjev, spesielt på temaer som endrer seg raskt.
  • Du må aldri fullstendig ‘kopiere og lime inn’ output fra et generativt KI-verktøy. Du kan bruke KI, men husk alltid å redigere og modifisere outputen for å gjøre den om til en ny idé.
  • KI er flott for å gjøre rask research på temaer eller for å lufte idéer mot den. Bruk den imidlertid aldri til å bevise idéene dine eller som eneste sannhetskilde. Ikke alle legger inn korrekt informasjon.
  • Det meste av informasjon er sensitive data. Alt du legger inn kan bli tilgjengelig for konkurrenter, kunder og potensielle kunder. Selv koden som genereres (inkludert sensitiv informasjon om produktene dine) for produktet ditt kan brukes av alle som har tilgang til verktøyet.
  • Ikke legg inn bedriftssensitive data eller interessentdata. Hvis du gjør det, vil finansielle data og helseinformasjon om bedriften din bli offentlig tilgjengelig. Andre kan få tilgang til og bruke den etter eget ønske. Å stoppe det vil være utenfor din juridiske kontroll.
  • Til slutt, del aldri personopplysninger med et KI-verktøy som ChatGPT. Dette inkluderer både din og kundenes informasjon, inkludert navn, e-postadresse, telefonnummer eller alt annet som ville bli betraktet som personlig identifiserbar informasjon (PII).

Å bruke KI-verktøy, på den dårlige eller den gode måten

Valget er ditt når du etablerer etiske prinsipper og etiske standarder i organisasjonen din. Likevel er det ikke løsningen å be KI om å skrive et stykke fra bunnen av.

En bedre måte ville være å grave frem all informasjon du kan finne om et tema. Sjekk ut bedriftens tidligere videoer, dokumenter, blogger, whitepaper, keynote-sesjoner osv., og kombiner dem for å lage et solid rammeverk. Skriv deretter noen av seksjonene selv og be KI om å utdype resten. Til slutt redigerer du hele teksten til én tone of voice og legger til de riktige eksemplene + nøkkelordene.

Eksemplene nedenfor vil hjelpe deg å forstå forskjellen mellom god og dårlig bruk av KI.

Her er noen eksempler på dårlig bruk av KI-verktøy.

  • Bruke personlige lisenser til å lage innhold for en markedsførings-e-post > kopiere, lime inn og sende uten noen gjennomgang.
  • Dele bedriftens finansielle data med KI-algoritmer.
  • Generere kode med KI og bruke den i produktene dine uten å gjøre noen endringer.

Her er noen eksempler på god bruk av KI-verktøy.

  • Bruke en bedriftslisensiert versjon til å generere e-postspråk, gjennomgå det språket og endre det kraftig for å gjøre det til ditt eget før du sender.
  • Ta imot forslag til å gjøre algoritmene dine bedre uten å dele den koden med et KI-verktøy.
  • Lufte idéer for en ny kampanje og se hvor mange forskjellige måter den idéen kan fungere for bedriften din.

Alle vet at KI skrev innholdet ditt

Bortsett fra KI-ens etiske bekymringer, personvern og cybersikkerhetsproblemer, er den største utfordringen med umålt bruk av KI og kopiering-og-innliming av output at det, i hvert fall foreløpig, er ganske åpenbart når noe blir skrevet av KI. Det er åpenbart for både datamaskin- og menneskelige lesere.

Jeg prøvde forskjellige verktøy for innholdsdeteksjon, og de klarte enkelt å identifisere all output jeg brukte direkte fra et KI-verktøy.

Hvorfor spiller det noen rolle?

Kanskje har du for eksempel begynt å bruke KI til å automatisere alle dine cold email-sekvenser. Outlook (eid av Microsoft) og Gmail (eid av Google) er to av de største e-postleverandørene, og for å beskytte kundene sine mot spam har de begynt, og vil fortsette, å merke KI-genererte e-poster som spam. De vil konsekvent fortsette å oppdatere sine spam-deteksjonsfunksjoner, og uansett hvor flott KI-e-posten din ser ut, vil den være til ingen nytte hvis den ikke når innboksene til de potensielle kundene dine.

Dette er bare en e-post. Med KI-verktøy som brukes som autonome våpen, øker phishing-forsøkene. Teknologigigantene ser etter måter å beskytte de ansatte sine mot disse angrepene på ved å blokkere ren KI-generert output.

Inntil de nye teknologiene blir bedre, er KI-tekst lett å oppdage siden den følger mønstre. Og både mennesker og maskiner er flinke til å identifisere mønstre. Folk vil slutte å være oppmerksomme på innholdet ditt hvis de tror at du ikke legger inn noen innsats og bare bruker KI til å generere alt innholdet ditt via automatisering.

Å skalere kvantitet på bekostning av kvalitet vil sannsynligvis føre til flere tap for deg og bedriften din. KI og maskinlæring er ikke skurker. Som et teknologiselskap bruker vi KI her hos Optimizely. Vi har til og med KI-funksjoner i produktene våre, og teamene våre har drevet mer innovasjon i den retningen.

Men vi bruker aldri KI til å generere alt innholdet vårt. Vi tror at menneskelig tenkning og samarbeid er ett av de mest integrerte elementene i innholdssamarbeid og beslutningsprosessen. Så bruk KI til inspirasjon, rammeverk, overskriftsidéer og sammendrag, men ikke til å erstatte selve arbeidet.