Kuigi Apple seda otsesõnu ei avalikusta oma privaatsusdokumentatsioonis, saadetakse osa Siri poolt tehtud salvestustest päris inimestele kuulamiseks - Applel on alltöövõtjaid kogu maailmas, kelle ülesanne on kuulata Siri poolt tehtud salvestisi ja hinnata tehisintellekti tegevuse kvaliteeti.

Sealhulgas hinnatakse sedagi, kas Siri aktiveerumine oli tahtlik või mitte, kas Siri vastus oli sobiv ning kas Sirile edastatud küsimus oli selline, mille puhul võiks eeldada, et Siri oskab sellega aidata.

Loost rääkis üks anonüümseks jääda soovinud töövõtjatest ja selle avaldas The Guardian.

Apple sõnul kasutatakse kogutud informatsiooni selleks, et aidata Siril sinust paremini aru saada ja mõista seda, mida sa ütled. Apple jätab aga otsesõnu välja ütlemata, et selle töö sisulise poole teevad ära päris inimesed, kes salvestisi oma tööna kuulavad.

Apple ütles The Guardianile, et vaid väikest osa Siri poole pöördumistest analüüsitakse, et Sirit ja diktsiooni parandada, aga salvestised ei ole seostatavad Apple ID-ga ehk kasutajatega. Sirilt tulevat infot analüüsitakse turvalistes kohtades ja kõik need inimesed peavad järgima Apple rangeid konfidentsiaalsusnõudeid. Ettevõte lisas, et hindamisele läheb väga väike hulk - alla 1% igapäevastest Siri aktiveerumistest ja need salvestised on mõne sekundi pikkused.

Vilepuhuja aga väljendas muret, mis tugineb sellel teadmisel, kui tihti Siri tegelikult kogemata aktiveerub ja eriti tundlikku informatsiooni salvestab ning edastab.

Siri võib mittetahtlikult aktiveeruda, kui see ekslikult arvab end kuulvat äratussõna (wake word), "Hey Siri." Siri käivitub mõnede häälte peale, aga näiteks aktiveerub Siri automaatselt iga kord, kui Apple kell tuvastab tõstva liigutuse ja kuuleb kõnet.

Vilepuhuja sõnul on loendamatul hulgal juhtumeid, kus salvestistes on privaatseid vestlusi näiteks arsti ja patsiendi vahel, ärikokkulepetest ja näiliselt ka kriminaalsetest kokkulepetest, seksuaalvahekordadest ja nii edasi.

Veelgi suurem murekoht on aga see, et iga salvestise juurde kuulub tegelikult ka kasutaja informatsioon, mis näitab ära asukoha ja muudki. Seda kasutatakse hindamaks, kas Sirile edastatud palve lahendati edukalt või mitte.

Kurja juur on just juhuslikud ja ekslikud Siri aktiveerumised. Kuigi Siri on enamikes Apple toodetes, tõi allikas välja Apple kella (Apple watch) ning Apple koduse abimehe HomePodi, mis on peamised ekslike salvestiste tootjad.

Allika sõnul on kella juhuslike aktiveerumiste sagedus hämmastavalt kõrge ning mõned kella salvestised on lausa 30 sekundilised. Mitte just väga pikad, aga piisavad, et saada aimu, mis kella ümbruses teoksil on. Kõige kuulamine on ka alltöövõtjate jaoks ebamugav ning neil ei oleks keeruline teada saada, kelle privaatseid vestlusi salvestatud on.

Kui Sirilt küsida "kas sa kuulad mind koguaeg," vastab assistent, et ta kuulab ainult siis, kui temaga räägitakse. Allika sõnul on see vastus aga vale, sest juhuslikke, kogemata aktiveerumisi ja heli salvestamist tuleb ette liiga tihti, et see vastus nii lihtne saaks olla.

Apple ei ole selles jamas üksi. Amazoni Alexa ja Google Assistanti taga toimib samasugune süsteem. Kuid Apple eristub neist näiteks selle poolest, et Alexa ja Google toodetel saab salvestiste kasutamist piirata, kuid Apple ainus variant on Siri täielikult välja lülitada.

Seega, ole ettevaatlik, mida sa räägid ja teed, kui su kõrval on aktiveeritud Siriga Apple toode. Siri võib aktiveeruda ka siis, kui sa seda ei taha, erinevate häälte ja tegevuste peale ning kui Siri aktiveerub, siis salvestab ta ümbruses kuuldavat ning osa sellest saadetakse inimestele kuulamiseks ja hindamiseks.