Meta har netop fået patent på en KI, der kan simulere en afdød eller fraværende brugers aktivitet på sociale medier, inklusiv indlæg, kommentarer, likes og de snakker om brugen af stemme- eller videokald.
Teknologien trænes på brugerens historiske data og kan således “holde liv” i en profil, selv når personen ikke længere er til stede, eller blot tager en lang pause fra platformen
Ifølge Meta handler det om at mindske den “alvorlige og permanente” påvirkning, det har på et netværk, når en bruger forsvinder... især hvis vedkommende er død. Altså WTF?
Er det her virkelig en service til de efterladte, eller er det en måde at fastholde brugere og data på platformen, selv efter livet? Meta understreger, at patentet kun er “konceptuelt” og ikke nødvendigvis bliver udviklet, meeeeen hvem ejer vores digitale identitet når vi ikke længere er her? Og hvem har ret til at “tale” på vores vegne eller simulere os?
Teknologien åbner for en ny æra af “grief tech” (ja det hedder det!) eller på dansk “sorgens teknologi" IMO bare "digital efterliv”, hvor grænsen mellem minde og manipulation bliver sløret. Hvad betyder det for vores privatliv, når en algoritme kan efterligne os så præcist, at vores venner og familie måske ikke engang kan skelne det fra den rigtige person? Og hvad med de følelsesmæssige konsekvenser for de efterladte.
Meta har udtalt, at de ikke har planer om at implementere teknologien, meeeeen patentet er alligevel et tegn på, hvor langt tech-giganter er villige til at gå for at udnytte vores data – selv efter vores død.
Min egen holdning: Dette er ikke bare en teknologisk nyskabelse det er en syret glidebane, der kun kan føre til en hel masse unødig sorg, bureaukratisk bøvl og etisk forvirring. At lade en algoritme overtage en afdød persons stemme og identitet er ikke bare en krænkelse af den enkeltes ret til at blive glemt, men også en risiko for at forlænge og forvride sorgprocessen for de efterladte. Hvem har egentlig gavn af, at en KI fortsætter med at “like” indlæg eller skrive kommentarer i en afdød persons navn?
Derudover åbner det op for et mareridt af juridisk og praktisk bøvl: Hvem ejer rettighederne til en digital efterligning? Hvem kan kræve den slettet, og hvordan håndterer man situationer, hvor KI’en begynder at opføre sig på måder, den afdøde aldrig ville have gjort? Og hvad med de tilfælde, hvor KI’en bliver brugt til at manipulere eller udnytte de efterladte; bevidst eller ubevidst?
Teknologien rejser også et grundlæggende spørgsmål om, hvor langt vi er villige til at lade tech-giganter gå for at udnytte vores mest personlige data. Når grænsen mellem menneske og maskine udviskes, risikerer vi at miste noget fundamentalt: vores ret til at bestemme over vores egen historie og eftermæle.
Se det som en form for demokratiseret indholds-udvælgelse. I stedet for at én person eller en algoritme bestemmer, hvad der er vigtigt eller bedst indhold, overlades beslutningen herom til fællesskabet.
Som jeg ser systemet, skal det bruges til upvote relevante indlæg og nedvote urelevante indlæg. Du kan sagtens være uenig i et indlæg. Men hvis det er et godt, informativt indlæg, bør det få en opdut, da det bidrager til fællesskabet.
Hvis folk flittigt neddutter ting de er uenige i, opstår der også hurtigt ekkokammer-effekt.
Man kan også neddutte indhold der går mod reglerne på forum eller direkte mod loven, eller hvis det er stødende, unødigt provokerende eller rascistisk.
Bidrager indlægget med noget positivt til fællesskabet = op.
Er indlægget destruktivt, ulovligt, mod reglerneb osv = ned.
Btw har vi ikke en kultur for at nedvote særlig meget her inde. Når der kommer nedvotes, er det ofte tydeligt hvorfor. Tror det er derfor folk undrede sig.