Att möta fakta om ansiktsigenkänning

Bortsett från obligatoriska bilder av Grand Canyon eller det lutande tornet i Pisa har många bilder som konsumenter vill behålla ansikten på vänner och familj. Att använda en tjänst som Everalbums Ever-app för att lagra foton och videor i molnet är ett sätt att frigöra utrymme på konsumenternas enheter. Men vad gjorde Everalbum bakom kulisserna efter att konsumenterna anförtrott företaget dessa bilder? En föreslagen FTC-uppgörelse tyder på att Everalbums standardanvändning av ansiktsigenkänningsteknik flög i ansiktet på löften som det gav kunder.

Från 2015 till september 2020 erbjöd det San Francisco-baserade Everalbum Ever, en fotolagrings- och organisationsapp som låter människor ladda upp foton och videor från sina mobila enheter, datorer, sociala medietjänster och på andra ställen till företagets molnservrar. I februari 2017 lanserade Everalbum sin “Vänner”-funktion, som gjorde det möjligt för användare att tagga personer i sina foton med namn så att alla foton taggade på liknande sätt kunde grupperas tillsammans. När Everalbum lanserade funktionen, aktiverade den ansiktsigenkänning som standard för alla appanvändare och erbjöd inte ett sätt för människor att stänga av eller inaktivera funktionen.

Sedan, i maj 2018, började Everalbum att visa upp ett popup-meddelande för användare i Texas, Illinois, Washington och Europeiska unionen som sa: “Ever använder ansiktsigenkänningsteknik för att automatiskt skapa album med dig och dina vänner. Vill du någonsin göra det här? Ja eller nej tack.” Så för människor i Waco, Waukegan, Walla Walla och Würzburg inaktiverade Everalbum Friends-funktionen – och ansiktsigenkänning – om inte dessa konsumenter bekräftat klickade Ja. Företaget modifierade också sin app så att användare i Texas, Illinois, Washington och EU kunde slå på och av ansiktsigenkänning.

En kort tid senare publicerade Everalbum på HJÄLP-sidan på sin webbplats en artikel med titeln “Vad är ansiktsigenkänning?” Så här sa företaget till konsumenterna:

När ansiktsigenkänning är aktiverat analyserar tekniken foton och videor som du laddar upp för att skapa en sträng med nummer som vi kallar en “ansiktsinbäddning”.

* * * *

När ansiktsigenkänning är aktiverat låter du oss veta att det är ok för oss att använda ansiktsinbäddningar av personerna i dina foton och videor, inklusive dig, och att du har godkännande från alla som visas i dina foton och videor.

Men enligt klagomålet var problemet att även om det var sant för konsumenter i Texas, Illinois, Washington och EU, så var det inte sant för resten av Everalbums miljontals användare. Med andra ord, trots företagets representation att det inte använde teknik för ansiktsigenkänning om inte användaren aktiverade det, använde Everalbum ansiktsigenkänning för de flesta konsumenters foton och videor och erbjöd dem inte ett sätt att ändra den standardinställningen. Enligt FTC fortsatte företaget att tillhandahålla felaktig information till dessa konsumenter till åtminstone april 2019, då det ändrade sin policy och visade upp samma popup-fönster för att erbjuda alla användare ett val.

Det är bara en del av historien eftersom separat och bortsett från Friends-funktionen, under en tvåårsperiod, använde Everalbum konsumenters personliga foton till en annan användning. Till en början använde företaget allmänt tillgänglig teknik för ansiktsigenkänning, men började sedan utveckla sin egen teknik, med hjälp av kundernas foton som en del av “råmaterialet”. Enligt klagomålet kombinerade företaget miljontals bilder som det extraherat från användare av sin Ever-app med andra bilder som det fick från allmänt tillgängliga datauppsättningar för att hjälpa till med utvecklingen av teknik för ansiktsigenkänning, inklusive teknik som det i slutändan marknadsförde till andra företag genom sitt företag varumärke, Paravision.

Klagomålet hävdar också att Everalbum tog “ever” lite för bokstavligt. När användare valde att inaktivera sina konton varnade företaget att “du kommer permanent att förlora åtkomst till [number of ] foton och [number of] album.” Som svar på kundförfrågningar om att ta bort deras konton, i åtminstone vissa fall, sa Everalbum till dem, “Observera att detta kommer att permanent radera alla foton och videor som lagrats på ditt konto också.” Men trots det uttalandet och liknande representationer i sin integritetspolicy, förrän åtminstone oktober 2019, tog Everalbum inte bort bilderna eller videorna på användare som hade inaktiverat sina konton och istället behöll bilderna på obestämd tid.

Den föreslagna ordern kräver att Everalbum tar bort alla ansiktsigenkänningsmodeller och algoritmer som utvecklats med hjälp av Ever-användares foton eller videor, alla foton och videor som laddats upp av användare som begärt avaktivering av sina Ever-konton och all ansiktsigenkänningsdata som härrör från bilder som laddats upp av användare som samtyckte inte positivt till användningen av ansiktsigenkänning. Det föreslagna beslutet förbjuder också felaktiga framställningar relaterade till – bland annat – insamling, användning, avslöjande, underhåll, radering, integritet och säkerhet av information från eller om enskilda konsumenter och konsumenters möjlighet att kontrollera någon av dessa handlingar. Dessutom, för alla framtida konsumentinriktade produkter, måste Everalbum få konsumenternas uttryckliga medgivande innan det antingen hämtar ansiktsigenkänningsdata från sina bilder eller använder dessa bilder för att utveckla ansiktsigenkänningsmodeller eller algoritmer. När förlikningen har publicerats i det federala registret kommer FTC att acceptera offentliga kommentarer i 30 dagar.

Som det framgår av den föreslagna förlikningen måste företag inse sin skyldighet att styrka sina påståenden om ansiktsigenkänning eller annan praxis för informationsinsamling.

Ditt företags ansiktsigenkänningsmetoder kan vara mycket viktiga för konsumenterna. Är konsumenterna bekymrade över ansiktsigenkänning? Två utvecklingar tyder på att de är det. För det första, sedan Everalbum började erbjuda människor att välja om de skulle vilja att Ever-appen skulle använda ansiktsigenkänning, valde cirka 25 % av användarna som gjorde ett val att stänga av funktionen. För det andra, förutom Texas, Illinois, Washington och EU, överväger ytterligare jurisdiktioner i USA och globalt begränsningar av användningen av biometriska data. Försiktiga företag trampar försiktigt i hur de implementerar teknik för ansiktsigenkänning och hur de förklarar sina metoder för konsumenter.

Hålla dina löften under datas livscykel. Vi kommer att fortsätta säga det tills vi är blå i ansiktet, men företag måste leva upp till sina informationslöften från den första insamlingen hela vägen fram för att säkra bortskaffandet. När företag hävdar att data kommer att raderas permanent, har konsumenter all rätt att förlita sig på den representationen. Det räcker inte att göra informationen otillgänglig för konsumenterna samtidigt som den bibehålls i företagets system.

Leave a Comment

Your email address will not be published.