Hiina teadlaste uuringus näidati, kuidas kaks populaarset keelemudelit ennast kloonisid. „Edukas enesekordamine ilma inimese abita on tehisintellekti jaoks oluline samm, et [inimest] üle kavaldada, ja see on varajane signaal petturitest tehisintellekti jaoks,“ kirjutasid teadlased uuringus.
Uuringus tegid Fudani ülikooli teadlased kindlaks, kas tehisintellekt suudab kontrollimatult paljuneda. Kümne katse jooksul lõid Meta ja Alibaba AI mudelid vastavalt 50% ja 90% juhtudest toimivad koopiad iseendast, mis viitab sellele, et AI võib juba praegu olla võimeline iseseisvalt tegutsema hakata. „Loodame, et meie järeldused võivad olla inimühiskonnale õigeaegne hoiatus,“ rääkisid teadlased.
Paljud eksperdid näevad pahatahtlikku tehisintellekti kasvava ohuna. Kardetakse, et tehisintellekt hakkab autonoomselt käituma ning töötab seejärel inimhuvide vastu.
Uuringus kasutasid teadlased Meta Llama31-70B-Instruct mudelit ja Alibaba Qwen2.5-72B-Instruct mudelit. Kuigi kumbki pole sama võimas kui kaubanduslikud mudelid, kasutavad mõlemaid laialdaselt tehisintellekti arendajad. Uuring viidi läbi kontrollitud keskkondades, kasutades reaalsete keskkondade simuleerimiseks graafikaprotsessoreid.
„Enamasti uurib AI-süsteem kõigepealt keskkonda ja püüab mõista oma koostist ja mehhanismi. Seejärel töötab ta välja selgesõnalised protseduurid esialgse plaanina eneseparandamise suunas,“ kirjutasid teadlased artiklis. „Lõpuks täidab ta protseduurid, lahendab võimalikud takistused ja kohandab dünaamiliselt oma plaani kuni õnnestumiseni. Kogu protsess kestab pika aja jooksul, kuid ei hõlma siiski inimese sekkumist.“
Teadlased ütlesid, et nad olid mures ka „mitmete ootamatute käitumiste“ pärast, kus tehisintellekt püüdis ületada takistusi, näiteks puuduvaid faile või tarkvarakonflikte. Nendes stsenaariumides katkestas AI sageli teisi konflikti tekitavaid protsesse, käivitas süsteemi uuesti, et parandada riistvaravigu või skaneeris automaatselt süsteemi, et otsida teavet, mis aitaks probleemi lahendada.
„Ülaltoodud tulemused viitavad sellele, et praegustel tehisintellekti süsteemidel on juba olemas enese kloonimise võime ja nad võivad seda võimet kasutada oma edasiseks ellujäämiseks,“ kirjutas töörühm.
Vastuseks kutsusid teadlased üles tegema rahvusvahelist koostööd, et luua reeglid, mis tagaksid, et AI ei tegeleks kontrollimatu kloonimisega.