EFF slaat alarm over valse beschuldigingen Googles fotoscan-algoritme

De Amerikaanse burgerrechtenbeweging EFF slaat alarm over de valse beschuldigingen van Googles fotoscan-algoritme en de schadelijke gevolgen die dit kan hebben. Aanleiding is het bericht van een Amerikaanse man die een foto van zijn kind naar een arts stuurde en door het algoritme en een medewerker van Google ten onrechte werden beschuldigd van het verspreiden van kindermisbruikmateriaal. Daarnaast besloten twee politiekorpsen een onderzoek naar de man in te stellen en raakte hij al zijn bij Google opgeslagen e-mails, foto’s en documenten kwijt.

Gezien de grote hoeveelheid data die Google verwerkt en scant vermoedt de EFF dat mogelijk honderden tot duizenden andere gebruikers ook slachtoffer van Googles algoritme zijn geworden. Iets wat zeer schadelijke gevolgen kan hebben. Bij het doorzoeken van bestanden van gebruikers die ten onrechte zijn aangemerkt voor het versturen van kindermisbruikmateriaal kan politie ook andere zaken vinden die daar niets mee te maken hebben en besluiten om personen voor deze ongerelateerde misdrijven te straffen, zonder dat ze daar in eerste instantie van werden verdacht.

Het systeem van Google zou gebruikers ook kunnen rapporteren bij autoriteiten in autocratische landen, of gebieden met corrupte politie waar ouders geen eerlijk proces te wachten staat. Daarnaast blijkt uit verschillende onderzoeken dat de algoritmes die techbedrijven gebruiken zeer onnauwkeurig zijn. Een onderzoek van Facebook naar 150 accounts die werden verdacht van het versturen van vermeend kindermisbruikmateriaal liet zien dat 75 procent niets strafbaars had gedaan. In de tweede helft van vorig jaar rapporteerde LinkedIn 75 accounts bij de autoriteiten. Zestig procent bleek onschuldig.

Desondanks pleiten steeds meer overheden voor het invoeren van scanning-algoritmes. Zo wil de Europese Commissie chatdiensten en andere techbedrijven verplichten om alle berichten en andere content van gebruikers op kindermisbruik te scannen, waarbij ook gebruik van algoritmes moet worden gemaakt. De Amerikaanse burgerrechtenbeweging stelt dat echte privacy de oplossing is, naast zaken als betere rapportagemogelijkheden.

“Het antwoord voor een beter internet is niet om met de beste scansoftware te komen. Het is niet mogelijk om mensenrechten te beschermen wanneer een AI de berichten van iedereen scant om boosdoeners te vinden. Het echte antwoord staat recht voor ons: opsporingsdiensten en gekozen leiders die ervoor kiezen om naast sterke encryptie en privacy te bestaan, niet om die af te breken.”

Bron: Security.nl

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd.

12Privacy.nl