Teadlased on loonud tehisintellektist tekstikirjutaja, mida võiks kasutada valeuudiste koostamiseks

 (13)
Teadlased on loonud tehisintellektist tekstikirjutaja, mida võiks kasutada valeuudiste koostamiseks
Foto: FABRICE COFFRINI, AFP

Teadlaste meeskond, mis on loonud tehisintellektist tekstikirjutaja, teatas, et ei avalda seda tehnoloogiat, sest seda võidakse kasutada kuritahtlikel eesmärkidel.

San Franciscos asuv uurimisinstituut OpenAI, mida toetavad näiteks Elon Musk ja Peter Thiel, jagas mõningaid uurimisandmeid masinõppimise kasutamise kohta, et luua süsteem, mis on võimeline looma loomulikku keelt. Meeskond väljendas aga muret, et seda tööriista võidakse kasutada veenvate valeuudiste massiliseks tootmiseks, vahendab BBC News.

Ühtlasi on see ka tunnistus, et süsteem väljastab ebausaldusväärset väljamõeldud jama, aga kui see töötab hästi, on tulemus tooni poolest muljetavaldavalt realistlik.

OpenAI teatas, et süsteem on võimeline tootma sidusaid artikleid igal teemal, vajades ainult lühikest juhist. Tehisintellekt ei vaja eraldi õpetamist erinevatest teemadest teksti tootmiseks.

Süsteem toodab teksti, kasutades andmeid umbes kaheksalt miljonilt veebilehelt. Süsteemi „söötmiseks” lõi meeskond uue automatiseeritud meetodi „kvaliteetse” sisu leidmiseks internetist.

Selle asemel, et koguda andmeid internetist valimatult, mis oleks tekitanud palju segast informatsiooni, otsib süsteem ainult linkide jagamise platvormi Reddit postitatud lehekülgi. Andmed sisaldavad ainult linke, mis on kogunud „karma” kolm või üle selle, mis tähendab, et vähemalt kolm inimest on hinnanud sisu väärtuslikuks.

Tehisintellekt loob teksti sõna-sõnalt. Tulemus on tihti sidus, aga harva tõene – kõik tsitaadid ja viited on fabritseeritud. Laused põhinevad juba varem internetis avaldatud informatsioonil, aga selle informatsiooni kompositsioon on mõeldud unikaalsena.

Mõnikord väljastab süsteem tekstilõike, mis ei oma struktuurilisele mõtet või sisaldavad naljakaid vigu.

OpenAI ei ole teiste samas valdkonnas tegutsejate hulgas eriti populaarne. „Neil on palju raha ja nad tootavad palju seltskonnatrikke,” ütles California ülikooli Berkeleys arvutiteaduse abiprofessor Benjamin Recht.

Teine allikas ütles, et OpenAI tähelepanu saamise jõupingutustel on negatiivne mõju teadusele ning tõi välja, et teadustöö, mis avaldati koos OpenAI teadaandega, ei ole eelnevalt retsenseeritud.

„Mõte, et tehisintellekti uurijad peaksid mõtlema oma toodangu tagajärgedele, on uskumatult tähtis,” ütles Recht siiski.

OpenAI teatas, et tahab, et nende tehnoloogia tekitaks debati selle üle, kuidas sellist tehisintellekti peaks kasutama ja kontrollima.