Amazon kritiseras av aktieägare för AI-systemet Rekognition
Vill inte att Amazon ska pyssla med övervakning

Ett gäng av Amazons aktieägare har skrivit ett brev till Amazons grundare och VD Jeff Bezos där de kritiserar att Amazon säljer sitt AI-system Rekognition till polisiära myndigheter. Brevskrivarna är oroliga över att Rekognition på sikt skulle kunna användas som ett övervakningssystem som identifierar och spårar människor i realtid. Det är oklart hur många polisorganisationer som köpt in Rekognition men man vet att det åtminstone används av Washington County Sheriffs Office i delstaten Oregon. I sitt brev skriver aktieägarna bland annat: – While Rekognition may be intended to enhance some law enforcement activities, we are deeply concerned it may ultimately violate civil and human rights. De 19 aktieägarna som skrivit brevet representerar inte tillräckligt av rösterna för att de ska kunna rösta igenom en förändring skriver NBC News. Här nedan kan ni kolla in hur Rekognition fungerar.

Google ska inte sälja teknik för ansiktsigenkänning
Inte just nu i alla fall

Google har publicerat ett blogginlägg där man skriver lite om sitt arbete med artificiell intelligens generellt och bland annat kommer in på teknik gällande ansiktsigenkänning, en teknik som har börjat användas i allt större skala inom olika delar av samhället idag. I blogginlägget skriver Google att ansiktsigenkänning har många fördelar men med dessa kommer även vissa risker. På grund av det har Google tillsvidare beslutat att inte erbjuda sina kunder att köpa tekniska lösningar baserade på Googles arbete med ansiktsigenkänning: "Like many technologies with multiple uses, facial recognition merits careful consideration to ensure its use is aligned with our principles and values, and avoids abuse and harmful outcomes. We continue to work with many organizations to identify and address these challenges, and unlike some other companies, Google Cloud has chosen not to offer general-purpose facial recognition APIs before working through important technology and policy questions." Det här innebär givetvis inte att Google i framtiden inte kommer att sälja lösningar med ansiktsigenkänning men för tillfället verkar man alltså avvakta med det. Även Microsoft har uppmärksammat riskerna med ansiktsigenkänning och publicerade förra veckan etiska riktlinjer gällande det. Googles och Microsofts konkurrent Amazon har tidigare sålt sitt Rekognition-system, ett program för ansiktsigenkänning, till den amerikanska polisen. Detta har Amazon fått motta kritik för från såväl allmänheten som sina egna anställda och investerare.

IBM fimpar ansiktsigenkänning
Kommer inte längre att utveckla kontroversiell teknik

IBM:s vd Arvind Krishna meddelade igår den amerikanska kongressen att företaget kommer att sluta utveckla AI-teknik till system för ansiktsigenkänning. IBM kommer inte heller att erbjuda sina kunder sådana lösningar och företaget kommer även att avsluta sin forskning inom det kontroversiella området. I sitt öppna brev till kongressen, som ni hittar i sin helhet på länken nedan, skriver Krishna bland annat: "IBM firmly opposes and will not condone uses of any technology, including facial recognition technology offered by other vendors, for mass surveillance, racial profiling, violations of basic human rights and freedoms, or any purpose which is not consistent with our values and Principles of Trust and Transparency. We believe now is the time to begin a national dialogue on whether and how facial recognition technology should be employed by domestic law enforcement agencies." IBM:s beslut att sluta utveckla teknik för ansiktsigenkänning kommer i kölvattnet av att George Floyd dödades av en amerikansk polis, en händelse som lett till stora protester, och ibland upplopp, i USA och på andra platser runt om i världen. Huruvida IBM:s beslut att sluta erbjuda ansiktsigenkänning, en teknik som används av den amerikanska polisen, har något att göra med detta framgår inte. Det är sedan tidigare känt att polisiära myndigheter i USA bland annat använder sig av Amazons ansiktsigenkännings-program Rekognition samt det system som det kontroversiella företaget Clearview AI utvecklat. Google tog redan 2018 ett beslut som innebar att de inte skulle sälja teknik för ansiktsigenkänning men huruvida Google fortsatt utvecklar och forskar inom området är oklart.

Nu kan Amazons AI Rekognition se om du är rädd
Artificiell intelligens håller koll på dina känslor

2016 presenterade Amazon sin artificiella intelligens Rekognition och sedan dess har man arbetat på att få denna att bli bättre på ansiktsigenkänning, både på människor och på djur. Rekognition har sedan tidigare kunnat utläsa vissa känslor en persons ansikte visar och nu kan AI:n även känna igen rädsla i en människa ansikte. Sedan tidigare kan Rekognition avgöra om en persons ansikte visar de sju känslorna glad, ledsen, arg, överraskad, äcklad, lugn och förvirrad. Även detekteringen av dessa känslor har blivit bättre med den senaste uppdateringen av Rekognition skriver Amazon i ett inlägg. Förutom dessa uppdateringar ska Rekognition nu även vara bättre på att avgöra vilken ålder en person har baserat på deras ansikte. Rekognition går sedan tidigare att använda både på stillbilder, filmat material och livesändningar. I klippet här nedanför kan ni kolla in ett kort inslag som Forbes spelade in om Amazons AI Rekognition förra året.

Amazons artificiella intelligens kan identifiera hundraser
Har även stöd för ansiktsigenkänning

Amazon har släppt ett nytt verktyg baserat på artificiell intelligens som man kallar för "Amazon Rekognition" som deras kunder bland annat kan använda för att identifiera olika hundraser. Förutom att identifiera hundraser så kan Amazon Rekognition band annat hantera ansiktsigenkänning och läsa av ansiktsuttryck och baserat på det avgöra om någon är till exempel glad, ledsen eller arg. Amazon Rekoknitions API (programmeringsgränssnitt) kan för tillfället användas gratis av AWS-kunder, det vill säga Amazons molntjänst, i de amerikanska delstaterna Northern Virginia och Oregon samt på Irland. Jag antar att AWS-kunder i övriga delar av världen kommer att ges möjlighet att använda AI-verktyget framöver. Tidigare i år släppte Microsoft appen Fetch som via en app eller webben kunde avgöra vilken hundras som visades på ett foto. Den kan ni läsa mer om i den inlänkade artikeln nedan.

Techjättar vill att Clearview slutar sno bilder från deras tjänster
Ansiktsigenkänningsföretag har samlat in 3 miljarder bilder

Flera stora internetföretag har nu förbjudit det hemlighetsfulla AI-företaget Clearview AI att samla in bilder som användare laddat upp till olika sociala medie-tjänster. Detta är något som Clearview har pysslat med under en tid för att kunna erbjuda diverse myndigheter och regimer runt om i världen en möjlighet att identifiera personer med hjälp av ansiktsigenkänning. Enligt flera källor ska företaget ha samlat in över tre miljarder bilder som företaget använder i sin tjänst för att identifiera människor på bilderna. Clearview ska bland annat ha hämtat in dessa bilder från tjänster som Twitter, Microsofts LinkedIn, Googles YouTube, Venmo, Facebook samt Instagram. Samtliga dessa företag har nu förbjudit Clearview att "sno" bilder från deras tjänster då det är ett klart avtalsbrott mot tjänsternas användaravtal, även om bilderna och information kopplade till dessa är publika. Clearview har tidigare uppgett att över 600 olika polisiära myndigheter använder deras tjänst för att identifiera människor genom ansiktsigenkänning utan att uppge vilka dessa är. Har du någon gång laddat upp en publik profilbild till någon av tjänsterna ovan, eller andra, så är det antagligen inte helt osannolikt att även bilder på dig finns i företagets ansiktsdatabas. I klippet nedan kan ni höra Clearview AI:s grundare och vd Hoan Ton-That försvara sin tjänst och företagets verksamhet i en intervju med CBSN.

Svensk myndighet kund till Clearview AI
Kontroversiellt ansiktsigenkännings-företag har minst en svensk kund

Förra veckan meddelade det kontroversiella företaget Clearview AI att deras kundregister läckt ut och nu har BuzzFeed tagit del av detta. Clearview AI har en ansiktsigenkännings-tjänst som använder sig av över 3 miljarder ansiktsbilder som man samlat in från Facebook, Instagram, LinkedIn och andra sociala medie-tjänster. Det har tidigare varit känt att en lång rad polisiära myndigheter i USA använt företagets tjänst men enligt BuzzFeed är det många fler än dem som använder tjänsten. Enligt BuzzFeed så innehåller Clearviews läckta kundregister över 2200 myndigheter, organisationer och företag som köpt in tjänsterna. Förutom polismyndigheter så märks flera stora amerikanska företag och banker på Clearviews kundlista. Clearview har tidigare uppgett att man har fokuserat på att sälja in sin tjänst till framför allt amerikanska och kanadensiska polismyndigheter men det verkar även som om myndigheter i andra länder använt sig av Clearviews ansiktsigenkännings-tjänst. I kundregistret ska det finnas myndigheter och företag från hela 27 stycken länder. Bland dessa länder nämns Sverige men exakt vilken eller vilka kunder Clearview AI har här i Sverige framgår inte. Det verkar dock röra sig om en polisiär eller annan statlig myndighet. Det framgår inte heller hur eller om Clearviews svenska kund eller kunder använt tjänsten i något sammanhang.

Clearview AI:s kundlista har läckt ut
Kontroversiellt ansiktigenkänningsföretag har blivit av med data

Det lite halv-kontroversiella amerikanska företaget Clearview AI har meddelat sina kunder att någon obehörig har kommit över en lista om vilka företag och myndigheter som köper in tjänster från Clearview rapporterar The Daily Beast. The Daily Beast har tagit det av mailet som Clearview skickat ut till de berörda kunderna. Där står att någon obehörig på något sätt kommer över data om vilka företag och myndigheter som är kunder hos Clearview, hur många konton hos Clearview de berörda kunderna har samt hur många sökningar de gjort i Clearviews ansiktsdatabas. Vidare skriver Clearview att deras servrar inte har drabbats av intrång men man nämner inget om hur kundlistan har läckt ut. Clearview AI har fått en hel del kritik efter det att man samlat in över 3 miljarder bilder från olika sociala medietjänster. Dessa bilder har man sedan kopplat till personlig data om personerna på bilden för att sedan sälja detta som en ansiktigenkännings-tjänst till olika myndigheter. Det är okänt vem eller vilka som har köpt tjänster från Clearview men det sägs att det ska handla om åtminstone 600 stycken amerikanska polismyndigheter. Kundlistan som läckt ut från Clearview verkar än så länge inte ha läckt ut publikt så det finns fortsatt ingen exakt information om vilka som köper Clearviews tjänster.

Svenska polisen har testat Clearview AI
Poliser anmäls efter att ha använt kontroversiell ansiktsigenkänning

Sveriges Radio rapporterar nu att den svenska polisen har testat den kontroversiella ansiktsigenkännings-tjänsten Clearview AI under en tid. Att Clearview AI:s tjänst betraktas som kontroversiell beror på att man olovligen samlat in över 3 miljarder ansiktsbilder från sociala medier som till exempel Facebook, Instagram och LinkedIn utan att ha tillstånd för det. Dessa bilder har sedan kopplats till namn och annan personlig data som även den har samlats in olovligen från olika tjänster på nätet. Det innebär sannolikt att det i Clearviews databas finns data om i väldigt många av dem som någon gång har registrerat sig på någon av de berörda tjänsterna. BuzzFeed rapporterade förra månaden att Clearview användes av ett myndigheter i ett dussintal länder varav ett av de utpekade länderna var Sverige. Vilken myndighet som använde Clearviews tjänst framgick dock inte då men nu uppger den svenska polisen att några anställda hos dem har testat tjänsten och den tillhörande appen under en tid. Polisen började dock varna sina anställda från att använda tjänsten efter det att Ekot börjat ställa frågor runt Clearview. Polisen har sedan dess även anmält ett fåtal medarbetare som har använt appen till annat än officiella tester för "eventuella tjänstefel" skriver SR. Förutom det så granskar nu även Datainspektionen om några fler svenska myndigheter använt Clearview AI:s tjänst.