by Google har for nylig annonceret betydelige opdateringer til sin søgealgoritme med det formål at bekæmpe spredningen af ikke-konsensuel eksplicit indhold, særligt i forhold til AI-genererede deepfakes. Disse opdateringer er designet til at forbedre processen for fjernelse af indhold og justere rangeringssystemer for at beskytte brugerne mod eksponering for sådant skadeligt indhold. Ændringerne følger en bekymrende stigning i fordelingen af eksplicitte billeder og videoer af personer uden deres samtykke, hvilket har medført omfattende diskussioner og tiltag på tværs af forskellige platforme, herunder sociale medier og søgemaskiner.
Fjernelser af Indhold
En af de primære ændringer, som Google har introduceret, involverer en strømlining af processen for at fjerne ikke-konsensuelt, eksplicit fake indhold fra søgeresultaterne. Brugere, der anmoder om fjernelse af sådant indhold, vil opleve, at systemet er mere effektivt i håndteringen af disse anmodninger. Når en fjernelsesanmodning er godkendt, vil systemet specifikt forsøge at filtrere lignende eksplicitte resultater fra beslægtede søgninger for den berørte person. Derudover er der implementeret et nyt scanningssystem, der kan identificere og fjerne duplikerede billeder, når et originalt billede er fjernet fra søgeresultaterne.
Modifikationer af rangeringssystemet
Søgealgoritmen er blevet justeret for potentielt at reducere synligheden af eksplicit fake indhold i mange søgninger. For søgninger, der søger efter sådant indhold og inkluderer personers navne, sigter systemet mod at prioritere ikke-eksplicit indhold, såsom nyhedsartikler. Denne tilgang sikrer, at brugerne har større sandsynlighed for at finde høj-kvalitets, informativt indhold fremfor eksplicit materiale. Desuden vil hjemmesider med en høj volumen af fjernet falsk eksplicit billedmateriale blive nedgraderet i søgerangeringer, hvilket signalerer, at de ikke er høj-kvalitets sites. Denne strategi har vist sig effektiv for andre typer skadeligt indhold og forventes at være en nyttig metode til at mindske tilstedeværelsen af falsk eksplicit materiale i søgeresultaterne.
Industrikontekst
Udbredelsen af eksplicitte deepfakes har affødt betydelig opmærksomhed fra teknologivirksomheder, lovgivere og interesseorganisationer. Problematikken går ud over søgemaskiner og sociale medieplatforme; det er en samfundsudfordring, der kræver koordinerede indsatser inden for industrien for at blive adresseret effektivt. Google har understreget sin forpligtelse til at samarbejde med branchepartnere og eksperter for at tackle denne udfordring bredere. Emma Higham, en Google Product Manager, bemærkede, at selvom disse ændringer er betydelige, er der stadig meget arbejde, der skal gøres for at adressere problemet fuldt ud og beskytte individer mod de skadelige virkninger af ikke-konsensuelle deepfakes.
Rapporteret effekt
Google fastslår, at disse opdateringer har ført til en markant reduktion i eksponeringen for eksplicit billedresultater for specifikke søgninger, med en nedgang på over 70% for målrettede søgninger. Denne forbedring i håndteringen af indhold er en direkte konsekvens af de forbedrede fjernelsesprocesser og finjusterede rangeringssystemer. Ved at reducere synligheden af eksplicit fake indhold er det mindre sandsynligt, at brugere støder på skadeligt materiale, og de kan i stedet få adgang til relevant, ikke-eksplicit indhold, der informerer og uddanner dem om de samfundsmæssige konsekvenser af deepfakes.
Afsluttende tanker
Googles initiativer fremhæver vigtigheden af teknologiske fremskridt i beskyttelsen af individeres online-oplevelser og i håndteringen af de etiske og sociale implikationer af avanceret teknologi, især generativ billeddannelse. De løbende bestræbelser demonstrerer en proaktiv tilgang fra Google til at håndtere de etiske og sociale konsekvenser af generativ AI. Ved at fortsætte med at forbedre sine politikker og systemer, opretholder Google sin forpligtelse til at skabe et sikrere og mere etisk online-miljø for alle brugere.
Til slut er Googles opdateringer til sin søgealgoritme et betydeligt skridt mod at mindske påvirkningen af ikke-konsensuelt eksplicit indhold. Virksomhedens bestræbelser understreger vigtigheden af en kontinuerlig tilpasning til nye former for digital misbrug og behovet for samarbejde på tværs af industrien for at adressere samfundsmæssige udfordringer effektivt.
