Ken je deze handige AI-techniek nog niet..? Handig toch? Simpele vraag: “Alexa, wat voor weer wordt het?” en je krijgt in je luie stoel het weer gepresenteerd, via de microfoon/speaker van deze Alexa, de handige thuiswinkelrobot van Amazone.com. “Alexa, wil je het nummer ‘Russian Spy & I’ afspelen?‘ En ja hoor, ook dat kan Alexa; de computerverbonden software van Alexa, al enige maanden topseller op de Apple iOS-appstore, zoekt het nummer op internet en speelt het voor je af.
Maarrrr.. de vraag is natuurlijk: ‘Wanneer stopt Alexa met (af)luisteren van je commando’s’.. Sluit het zichzelf écht af, als je zegt dat ze moet ‘gaan slapen’..? Net als kinderen die je naar bed brengt, kan ook Alexa kennelijk heel ontdeugend zijn.. Maar laten we welwezen, Alexa is natuurlijk geen levend wezen. Het software die ervoor zorgt, dat het werkt zoals het werkt. Maar net als bij je cameraatje op je laptop of tablet, is ook Alexa in staat een eigen softwarestuk te activeren.
Namelijk TOCH (af)luisteren terwijl het apparaat ‘AF’ hoort te staan. Zoals het genoemde cameraatje op je apparatuur ook -zo blijkt uit bewijs- in staat is je te filmen, terwijl je van niets weet.. Terwijl het cameraatje ook ‘AF’ hoort te staan. Kijk naar deze presentatie van ene Greg, die toont wat Alexa (en haar concurrentie-collega-dienstmeisjes) allemaal kunnen:
x
x
‘Alexa’ betrapt:
1000-den privégesprekken afgeluisterd..
2019 © Tyler Durden –
© deze versie en vertaling WantToKnow.nl/be
x
Amazon heeft duizenden mensen in dienst om te luisteren, naar wat mensen over de hele wereld tegen hun digitale assistent ALEXA’ zeggen. Volgens wat zeker een inspirerend verslag van Bloomberg genoemd mag worden (HIER) zal deze info zeker een hearing voor het Amerikaanse Congres opleveren. Er worden in dit verslag zeven mensen genoemd, die aan het ALEXA-programma hebben gewerkt. Hun taak was om de software van NSAlexa -die geïnstalleerd is in de Echo speakers – te ‘helpen verbeteren’. Dit team is aan het ‘luisteren naar stemopnames, gevangen in de huizen en kantoren van de Echo-eigenaren’.
Deze opnames worden vervolgens getranscribeerd (uitgeschreven), geannoteerd en teruggestuurd naar de software-ontwerpers, om Alexa’s begrip van de menselijke spraak verder te verbeteren voor meer succesvolle interacties. Met andere woorden, de mens helpt -totaal ongevraagd- effectief bij het trainen van het Amazon-algoritme voor die schattige Alexa.
In marketing-promomateriaal zegt Amazon dat Alexa ‘in de cloud leeft en continue slimmer wordt’. Maar zoals veel softwaretools die gebouwd zijn om van de ervaring te leren, doen mensen/gebruikers een deel van dat ‘onderwijs’, aldus het genoemde Bloomberg-rapport. Het (af)luisterend team bestaat uit parttime aannemers en fulltime Amazonemedewerkers die over de hele wereld zijn gevestigd, waaronder India, Roemenië, Boston en Costa Rica. De luisteraars aldaar werken een negen-uur-ploegendienst, waarbij elk van hen, maar liefst 1000 audiofragmenten per dienst bekijkt.
De verklaringen komen van twee medewerkers van het Amazon-kantoor in Boekarest, dat gevestigd is, in de bovenste drie verdiepingen van het Globalworth-gebouw in de Roemeense hoofdstad. De locatie ‘valt op te midden van de afbrokkelende infrastructuur’ van het Pipera-district in de stad en ‘draagt geen uithangbord met reclame voor de aanwezigheid van Amazon’. Veel het werk is saai, zo vertelde een van beide werknemers, wiens taak eruit bestond, dagen achter elkaar, verzamelde stemgegevens bij elkaar te brengen, voor specifieke zinnen zoals ‘Taylor Swift’ – zodat ‘het systeem’ kan leren, dat de zoeker op zoek was naar de artiest Taylor Swift en niet ‘heel snel naar een kleermaker’ (taylor). Maar deze ‘recensenten’ luisteren ook naar de meest persoonlijke momenten van mensen;
Af en toe pikken de luisteraars dingen op, die Echo-eigenaren waarschijnlijk liever privé willen houden. Zoals een vrouw die slecht-zingend in de douche staat. Of een kind dat om hulp schreeuwt. De teams gebruiken interne chatrooms om bestanden te delen, wanneer ze hulp nodig hebben bij het ontleden van een verward woord – of wanneer ze een ‘grappige opname’ tegenkomen. -Bloomberg
Af en toe komen deze Amazon-luisteraars ook ongemakkelijke of mogelijk criminele opnames tegen – zoals twee werknemers die zeggen dat ze hebben meegeluisterd naar wat als een seksuele aanval klonk. Volgens het Bloombergrapport, zullen veel van de werknemers, een dergelijk ‘geval’ in de interne chatroom bespreken, om ‘de stress te verlichten’. En terwijl Amazon zegt dat er ‘procedures worden gevolgd’, wanneer werknemers pijnlijke dingen horen, zeggen twee van de Roemeense werknemers dat -toen ze om advies vroegen voor dergelijke gevallen- ze te horen kregen: “Het is niet de taak van Amazon om zich ermee te bemoeien”.
Amazon reageert
Een woordvoerder van Amazon laat in een verklaring aan persbureau Bloomberg weten:.
“We nemen de veiligheid en privacy van de persoonlijke informatie van onze klanten serieus. Daarom noteren we slechts, van een zeer kleine steekproef de Alexa-spraakopnames om de klantervaring te verbeteren.
Deze informatie helpt ons bijvoorbeeld bij het trainen van onze spraakherkenning en onze systemen voor het begrijpen van natuurlijke talen, zodat Alexa uw verzoeken beter kan begrijpen en ervoor kan zorgen dat de service voor iedereen goed werkt.
We hebben strikte technische en operationele waarborgen en een nultolerantiebeleid ten aanzien van misbruik van ons systeem. Werknemers hebben geen directe toegang tot informatie die de persoon of account kan identificeren, als onderdeel van deze workflow. Alle anonieme informatie wordt met hoge vertrouwelijkheid behandeld en we gebruiken multi-factor authenticatie om toegang, service, encryptie en audits van onze controle omgeving te beperken om deze te beschermen.”.
Een mooi verhaal, waarvan niet of nauwelijks te controleren valt, of Amazon zich hieraan houdt.. Het bedrijf vermeldt echter niet dat mensen luisteren naar opnames van sommige gesprekken die door Alexa ZONDER INSTEMMING zijn opgepikt. In plaats daarvan hebben ze deze zin in hun algemene disclaimer in hun FAQ die zegt: “We gebruiken uw verzoeken aan Alexa om onze spraakherkennings- en natuurlijke taalverstaanbaarheidssystemen te trainen”.
Wat neemt Amazon dan allemaal op?
Volgens de Amazon-Alexa gebruiksvoorwaarden, verzamelt het bedrijf het grootste deel van wat je zegt tegen Alexa en slaat deze data op. Met inbegrip van de geolocatie van het product (dus ook de klant!) samen met de stem instructies, aldus een Tv-programma op CNBC van Todd Haselton afgelopen November.
‘Uw berichten en communicatie-verzoeken (bijvoorbeeld:”Alexa, bel mam”), en gerelateerde instructies, zijn gevat onder het kopje ‘Alexa interacties’, zoals beschreven in de Alexa gebruiksvoorwaarden. Amazon verwerkt en bewaart uw Alexa-interacties en gerelateerde informatie in de cloud, teneinde: 1. op uw verzoeken aan Alexa te reageren (bijv. “Stuur een bericht naar mama”),
2. om extra functionaliteit te bieden (bijv. spraak-naar-tekst-transcriptie en vice versa) en
3. om onze diensten te verbeteren. -Uit: gebruiksvoorwaarden voor Amazon-
Een bizar voorbeeld
Afgelopen mei nam een Amazone-Echo (variant van Alexa) een gesprek op, tussen man en vrouw van een stel en stuurde het vervolgens naar een van de telefooncontacten van de man. Amazon beweert dat tijdens het gesprek iemand een woord had gebruikt, dat klonk als ‘Alexa’, waardoor dit apparaat begonnen zou zijn met opnemen van het gesprek. Maar dat het apparaat het gesprek doorstuurt..??
“Echo werd wakker door een woord in een achtergrondconversatie dat klonk als ‘Alexa’,’ zegt Amazon in een verklaring. “Daarna werd het volgende gesprek gehoord/geinterpreteerd als de opdracht ‘verzend bericht’. Op dat moment zei Alexa hardop “Aan wie?” Op dat moment werd het achtergrondcontact door Alexa opnieuw geïnterpreteerd als een naam in de contactlijst van de klant. En toen Alexa daarop bevestiging vroeg en hardop: ‘[naam van de contactpersoon], toch?” zei, interpreteerde Alexa opnieuw verkeerd, in dit geval werd het achtergrondcontact als ‘Juist’ geduid. Hoe onwaarschijnlijk deze reeks gebeurtenissen ook is, we evalueren opties om dit soort zaken nog minder waarschijnlijk te maken.”.
Maar volgens de vrouw van het stel, Danielle, heeft Echo echter nooit haar toestemming gevraagd om de audio te versturen. “In het begin was mijn man zoiets als, ‘Nee, dat deed je niet’,” vertelde Danielle aan KIRO7. “En hij heeft zoiets van: ‘Je zat daar te praten over hardhouten vloeren’. En we zeiden: “O, jee, dat heb je echt gedaan!””. (HIER dit verhaal in NYTimes)
Kun je dit allemaal niet gewoon uitschakelen..?
Alexa laat mensen toe, om te stoppen met het delen van hun stemopnames voor de ontwikkeling van nieuwe functies, terwijl een screenshot bekeken door de mensen van Bloomberg onthult, dat de opnames die aan Alexa’s luisteraars worden verstrekt niet de volledige naam of het adres van een gebruiker bevatten. Wel wordt de opname gekoppeld aan een rekeningnummer, de voornaam van de gebruiker en het serienummer van het apparaat.
“Je denkt niet noodzakelijkerwijs aan een andere mens die luistert naar wat je je je slimme spreker vertelt, vanuit de intimiteit van je huis”, zegt UMIC-professor Florian Schaub, die onderzoek heeft gedaan naar privacykwesties die te maken hebben met ‘slimme’ luidsprekers. “Ik denk dat we geconditioneerd zijn door de [aanname] dat deze machines alleen maar magisch machineleren aan het toepassen zijn. Maar het feit is dat er nog steeds sprake is van handmatige verwerking. Of dat een privacybelang is of niet, hangt af van hoe voorzichtig Amazon en andere bedrijven zijn, in wat voor soort informatie ze handmatig hebben geannoteerd en hoe ze die informatie aan iemand presenteren”.
