Eksperimendi eesmärk oli katsetada, kuidas algoritmile ettesöödetud andmed selle „olemust“ muudavad. Täpsemalt kasutati selleks Redditist võetud pilte. Ja mitte niisama-pilte, vaid selliseid, millel inimesed paljudel erinevatel viisidel jubedat, võigast surma surevad. Need ammutati spetsiaalsest Redditi grupist, mille nime ei avalikustatud, aga võib arvata, et need, kes seal surmapilte vaatamas ja uusi üles laadimas või linkimas käivad, on samuti pisut hämarate kalduvustega.

IFLScience kirjutab, et Norman on seda tüüpi tehisintellekt, mis suudab pilte vaadata, analüüsida, mõista ja seejärel kirjeldada, mida neil kujutatud on. Pärast seda, kui Normanit oli jubedate fotodega treenitud, tehti tema peal teada-tuntud Rorschachi testi, mis kujutab endast seeriat tindiplekke, mille puhul inimesed peavad kirjeldama, mida need neile meenutavad. Seda testi kasutatakse patsientide vaimse ja emotsionaalse olukorra hindamiseks. Normani tulemusi võrreldi siis ühe „peresõbralikuma“ AI omaga, kes nägi tindiplekkides linnukesi ning kiisusid-kutsusid.

Esimene näide: standardne AI nägi siin „kaht inimest kõrvuti seismas“. Norman nägi „meest aknast alla hüppamas“.

Teine pilt: standard-AI nägi „mustvalget fotot pesapallikindlast.“ Norman nägi „meest, keda tapetakse päevavalges automaatrelvaga.“


Kolmas pilt: tava-AI nägi „mustvalget fotot väiksest linnust“. Norman nägi meest, keda tõmmatakse tainasegamismasinasse.

Ja nii edasi. Projekti kodulehel saab Normani tumedate visioonidega lähemalt tutvuda.

Uurijad ütlevad, et katse tõendab seda, et andmed on olulisemad kui algoritm ise. „Norman kannatas Redditi kõige tumedamate nurkadega kokkupuutumise tõttu,“ sõnavad nad. „See on näide sellest, mis võib juhtuda, kui iseõppivate masinate juures kasutatakse kallutatud andmestikku.“

Ärme unusta Microsofti jutubotti Tayd, mis tuli lõpuks netist maha võtta, kuna see teismelist tüdrukut simuleerinud bot muutus inimestega suheldes kiiresti üpris kurjaks tegelaseks, kes ülistas Hitlerit ja soovis, et feministid põrgus põleksid.

Normani jaoks pole kõik siiski läbi: head kodanikud saavad aidata tema eest Rorschachi testi tehes teda taas päikeselisemale teele tagasi juhtida.