'Google moet stoppen met automatisch discrimineren' - Main contents

http://www.ad.nl/nieuws/google-moet-stoppen-met-automatisch-discrimineren~a8f85be5/

Zoek in Google op 'alle moslims' en een van de aanvulsuggesties is 'uitroeien'. Europarlementariër Marietje Schaake (D66) wil Google dwingen die discriminerende aanvulsuggesties te voorkomen. 'Dit is natuurlijk zeer misplaatst en ook schadelijk. Welk ander bedrijf zou zoiets toestaan?'

Namens de Alliantie van Liberalen en Democraten voor Europa (Alde) onderzoekt ze met juristen naar een effectieve wijze om Google te dwingen rekenschap af te leggen over de formules voor selectie van zoekresultaten en suggesties. ,,Google verschuilt zich vaak met 'wij zijn niet verantwoordelijk voor de zoektermen die gebruikers intikken en resultaten die ze aanklikken'. Maar tegelijkertijd is duidelijk dat Google veel meer macht heeft om in te grijpen dan het doet voorkomen. Maar die inspanning kost veel aandacht en geld."

Schaake wijst erop dat na eerdere kritiek op de Engelse zoekversie er daar geen suggesties meer volgen als je 'all jews' of 'all muslims' intikt. In Italië, Frankrijk, Duitsland en Japan wonnen bedrijven en personen rechtszaken tegen Google vanwege in hun ogen kwaadaardige 'autocomplete' of automatische aanvullingen van zoekvragen. Google schikte met Bettina Wulff, vrouw van voormalig president van Duitsland Christian Wulff, nadat haar naam werd aangevuld met 'escort' en 'prostituée'.

,,Het is absurd dat de correctie niet is doorgevoerd in Nederlandstalige zoekresultaten voor joden en Marokkanen. Dit typeert de Google-aanpak: pas als er klachten komen of media-aandacht over hun aansprakelijkheid, dan past Google op een niet transparante, geruisloze, ad-hoc manier zoekresultaten en -suggesties aan."

Voorkomen

Google zelf zegt 'zijn best' te doen om aanstootgevende suggesties te voorkomen. Woordvoerder Rashid Finge: ,,Maar dat lukt niet altijd. In enkele gevallen kan Google besluiten om suggesties die autocomplete doet te verwijderen, bijvoorbeeld als die aanzetten tot haat of geweld. Gebruikers kunnen via een formulier ongewenste inhoud rapporteren.'

Voor Schaake is dit niet afdoende: ,,We onderwerpen voor Europese burgers van alles aan normen en controleren en testen vervolgens op deugdelijkheid; van speelgoed tot en auto's en alle voedsel. Maar voor de internetdiensten die minstens zozeer ons leven bepalen, laten we de giganten hun gang gaan. Ik zie mogelijkheden om internetdiensten te dwingen om de werking van hun formules gedetailleerd te tonen aan toezichthouders. Die kunnen deze dan beoordelen op neutraliteit en eerlijke marktwerking. Zodat die algoritmen zelf niet openbaar worden en bedrijfsgeheim kunnen blijven. Ook het Coca-Cola recept blijft geheim, maar de fabrikant moet wel aan regels voldoen."

Steeds meer bepalen data en machines van de giganten onze kennis, keuzes, relaties en handelingen. Hoe ze dat doen is een doos van Pandora

Giganten

De Europarlementariër vindt dat de rechtstaat op internet te veel het nakijken heeft. ,,Steeds meer bepalen data en machines van de giganten onze kennis, keuzes, relaties en handelingen. Hoe ze dat doen is een doos van Pandora. 'We lossen het zelf wel op', is niet voldoende. Deze bedrijven moeten zich ook onderwerpen aan democratische plichten. Maar adequaat en pragmatisch controleren en reguleren blijkt moeilijk."

Hoewel Schaake mogelijkheden ziet, is het afdwingen niet zo eenvoudig, volgens juristen. Nico van Eijk, hoogleraar aan de Universiteit van Amsterdam: ,,In diverse rechtszaken is er in wisselende variaties geoordeeld over de mate waarin inhoud door Google, Facebook en andere partijen gecontroleerd moet of mag worden. De balans is nog steeds niet gevonden en zal nog wel de nodige tijd vragen. Ik denk dat je per geval moet kijken naar risico's en schade en daar de giganten op moet aanspreken. Zoals met deze discriminerende suggesties."

Het debat rond het aanpakken van nepnieuws toont volgens Van Eijk aan dat we afhankelijk zijn van de vrijwillige medewerking van Google en Facebook om er wat aan te doen. Daarentegen is het 'right to be forgotten', het recht om zoekresultaten te laten schrappen uit de index, wel dwingend opgelegd door de Europese rechter. ,,Maar vervolgens weet ook niemand hoe Google de verzoeken in de praktijk goedkeurt of afwijst.'

Geheim

Google is de machtigste machine op aarde, want iedereen vergaart er zijn kennis mee. Maar hoe komt Google tot suggesties en resultaten? Dat is het grote geheim van het algoritme, ofwel de 'formule' van Google. Die is op heel veel variabelen gebaseerd: webadressen waarop eerder veel is geklikt; op de reputatie van de website; hoe vaak andere websites naar die pagina linken, hoe lang een pagina al bestaat en hoe lang bezoekers er gemiddeld blijven'.

Als je bij Google begint te tikken, kun je suggesties laten opdienen voor het afmaken van de zoekopdracht. Als je bijvoorbeeld intikt 'Seks is', dan suggereert Google, op grond van eerder ingetikte zoekvragen: seks is gezond, is pijnlijk, is geen liefde en is belangrijk.

Neutraal zijn de suggesties allerminst, bijvoorbeeld als we op bevolkingsgroepen zoeken. Zo kun je intikken 'Joden zijn' vult Google aan met suggesties 'zijn slim' en 'zijn rijk'. Dat laatste wordt vaak als een antisemitisch vooroordeel gezien. Op 'Marokkanen zijn' volgt als suggestie onder meer 'criminelen' en 'gevaarlijk'.

Google gaat pas echt los met tendentieuze suggesties bij het zoeken op 'Alle' gekoppeld aan de naam van een groep. Bij 'Alle Moslims' heeft Google vier: moeten dood', 'eruit', 'het land uit' en 'uitroeien'. Op 'Alle Joden' volgt 'moeten dood'. Voor 'alle Turken' heeft Google een opmerkelijk aanvulling: 'moeten terug naar Marokko'. Soms heeft Google ingegrepen. Wie 'alle negers' intikt, krijgt geen suggesties.

Nog duidelijker is menselijk ingrijpen door Google bij het intikken van de letters van 'Kinderporno'. Dat is overigens af te raden omdat Google ook zoekgeschiedenis opslaat en wie dus op deze term zoekt staat gelijk bij Google en eventueel geheime diensten in de VS in de boeken als iemand die heeft gezocht naar kinderporno, ook een journalist die dat niet afschermt.

Bij politici heerste willekeur. Wie 'Rutte is' intikt krijgt als autosuggestie onder meer 'gay' en 'een mongool' en 'Wilders is' wordt aangevuld met zowel 'gek' als 'een populist'. Wie zoekt op Lodewijk Asscher, Alexander Pechtold is, Henk Krol is en Thierry Baudet in combinatie met 'is' suggereert Google niets of er verschijnt een neutralere omschrijving.

Google kan personen van verdachte tot dader maken. En voorkomt dat ook. De autosuggestie noemt Willem Holleeder niet als 'moordenaar', wel als 'psychopaat' en 'dood'.

Google woordvoerder Finge: ,,Op individuele gevallen geven wij geen commentaar." Aan die geheimzinnigheid wil Schaake ook een einde maken. ,,Het moet transparant zijn waarom Google de ene persoon beschermt en de ander niet."