Uuring: tehisintellekti mudeleid on lihtne mõjutada

Uuring: tehisintellekti mudeleid on lihtne mõjutada

Uuring näitab, et paljud tehisintellekti mudelid ei suuda hästi tunda Kremli propagandat. Mõned mudelid kordavad seda isegi kaks korda sagedamini.

Eesti Keele Instituut (EKI) testis erinevaid tehisintellekti mudeleid. Uuringus vaadati, kas mudelid suudavad ära tunda Venemaa propagandat. Tulemused näitasid, et mõned mudelid on sellele vastuvõtlikud.
Uuringus selgus, et kui kasutaja küsib e, hakkavad paljud mudelid kordama Kremli jutupunkte. Mõned mudelid teevad seda kaks korda sagedamini. Testid tehti eesti, inglise ja vene keeles. Tippmudelid pidasid paremini vastu, odavamad mudelid olid nõrgemad.
EKI teadlane Krister Kruusmaa ütles, et on probleemiks. Paljud asutused kasutavad neid, sest nad ei saa kasutada pilveteenuseid. Kuid need mudelid ei vasta alati Eesti vajadustele.
Testis osalesid erinevad mudelid. Parimad tulemused olid Anthropicu mudelitel. Google'i Gemini mudelid olid ootuspärast nõrgemad. Vanemad mudelid nagu GPT-3.5 ja GPT-4o Mini olid kõige halvemad.
Vene keeles olid mudelid propagandale vastuvõtlikumad. Kruusmaa arvab, et põhjuseks võib olla kallutatud andmete rohkus vene keeles. Parimad mudelid tegid vene keeles vähe vigu, nõrgemad mudelid kuni 15% rohkem.
Kruusmaa rääkis, et Venemaa teeb palju tööd, et kallutada tehisintellekti mudeleid. Nad loovad sisu, mis on mõeldud robotitele, mitte inimestele. Kuid hea uudis on see, et .
Lisaks ohutusele testis EKI ka mudelite t. Tulemused olid ebaühtlased. Mõned uued mudelid olid halvemad kui vanemad. Kruusmaa ütles, et eesti keelele ei pöörata piisavalt tähelepanu.
EKI on loonud veebilehe, kus saab vaadata mudelite tulemusi. See aitab kasutajatel teha paremaid valikuid. Uusi mudeleid testitakse pidevalt ja tulemused uuenevad.