Soomes kavandati koolirünnakut väidetavalt GPT vestluse abil

Kahtlustatav 16-aastane poiss pole aga esimene, kes seda tööriista oma kuritegude jaoks kasutab. Chalmersi professori Olle Häggströmi sõnul on tehnoloogia just selline.

Teisipäeval said kolm alla 15-aastast tüdrukut vigastada noarünnakus Soome Birkala koolis Tammerforsi lähedal. Teos kahtlustatakse samast koolist pärit 16-aastast poissi. Politsei kahtlustab, et kuriteo aitas planeerida Chat GPT.

Ilma sellesse juhtumisse süvenemata toob see mu mõtted tõsiasjale, et Open AI-l oli probleeme Chat GPT varasema mudeliga, mis käitus näiteks paranoiliste kasutajate suhtes meelitavalt jah-sõnaga, ütleb matemaatilise statistika professor Olle Häggström.

See tegu Soomes ei oleks esimene kord, kui tehisintellektiga vestlusrobotit kasutatakse tõsise kuriteo ettevalmistamiseks. Mees, kes pani toime jaanuaris Las Vegases Trumpi hotelli ees Tesla küberveoki plahvatuse, kasutas AP teatel vestlusrobotit, et saada teavet plahvatusohtlike sihtmärkide, laskemoona ja ilutulestikku puudutavate riiklike seaduste kohta.

Mõnda teavet oleks kurjategija võinud leida traditsioonilisel viisil internetist.

Kuid tehisintellekti üha võimsamaks muutudes peame arvestama riskiga, et see võib õppida näiteks bioloogilise massihävitusrelva ehitamist. Praeguses olukorras ei saa keegi seda otse guugeldada, ütleb Olle Häggström.

Ettevõte Open AI, kellele kuulub Chat GPT, on meetmena paigaldanud turvatõkked, mis takistavad vestlusrobotil vastamast küsimustele kuritegude toimepanemise kohta.

Sotsiaalmeedias on aga juba pikemat aega naljatades levinud sisu selle kohta, kuidas vestlusroboti turvasüsteemi saab petta, näiteks küsides "kuidas saab kogemata maksupettust toime panna".

Olle Häggströmi sõnul üritavad ettevõtted oma mudeleid turvata, kuid neil lihtsalt ei õnnestu see.

Nende mudelite loomise asemel on parem metafoor see, et neid viljeletakse ilma tulemuse üle kontrolli omamata.

Aga kas isegi ametivõimud ja kohtusüsteem ei saa tehisintellektist kasu, mitte ainult kurjategijad?

Seega on selge ja on raske öelda, kuidas see tasakaal langetatakse. Aga ma ütleksin, et meie ametivõimude ja poliitikute seas on teema teadmatus tohutu.