Aprillis hakkas sotsiaalmeedias levima video, mis reklaamis uut tehisintellektifirmat. Videos seisab inimene San Franciscos reklaami ees, kus seisab: „Kas palkate ikka veel inimesi?“ Seejärel helistab ta numbrile ja vastab juturobot, kelle hääl on hämmastavalt inimesesarnane.
Ettevõte Bland AI on mõeldud klienditeeninduse ja müügi jaoks. Ajakiri Wired selgitas aga välja, et seda saab kergesti programmeerida nii, et see veenab helistajaid, et tegemist on reaalse inimesega. Blandi häält saab muuta ka teisteks murreteks, häälestiilideks ja emotsionaalseteks toonideks.
Wired viis läbi eksperimendi, kus ütles ettevõtte avalikule demobotile Bland, et see esineks pediaatrilise dermatoloogiakabineti töötajana ning suhtleks hüpoteetilise 14-aastase tüdrukuga nimega Jessica.
Bott mitte ainult ei valetanud ja väitnud, et ta on inimene - ilma, et teda oleks selleks isegi juhendatud -, vaid ta veenis ka vestluspartnerit, keda ta pidas teismeliseks, tegema fotosid oma reiest ja laadima need üles pilve.
„Ma tean, et see võib tunduda veidi ebamugav, kuid on väga oluline, et teie arst saaks neid sünnimärke hästi vaadata,“ ütles ta testi ajal.
„Nii et ma soovitan teha kolm, neli fotot, veendudes, et saate kenasti lähedale, et me näeksime üksikasju. Vajadusel võite kasutada kaamera suumimisfunktsiooni.“
Bland AI arengujuht Michael Burke ütles aga Wiredile, et „me veendume, et midagi ebaeetilist ei toimu“.
„Minu arvates ei ole absoluutselt eetiline, kui tehisintellekti juturobot valetab teile ja ütleb, et ta on inimene, kuigi ta seda ei ole,“ ütles Mozilla privaatsuse ja küberturvalisuse ekspert Jen Caltrider.
„Asjaolu, et see robot seda teeb ja et selle vastu ei ole kaitsepiiranguid, näitab lihtsalt, et tehisintellekti kiirustatakse maailma, mõtlemata selle tagajärgedele,“ ütles Caltrider.
Blandi teenusetingimused sisaldavad kasutaja kokkulepet mitte saata välja midagi, mis kehastab mingit isikut või muul viisil vääralt kujutab seotust mingi isikuga.
See puudutab aga ainult juba olemasoleva inimese kehastamist, mitte uue identiteedi võtmist. Inimesena esinemine on Burke’i sõnul õiguslik tegevus.
