AI teeb laste seksuaalset väärkasutamist lihtsamaks, hoiatab Unicef Malaysia

KUALA LUMPUR: Unicef Malaisia hoiatas, et AI-chatbotid ja kaaslahendused võivad kurjategijatel laste kohutamiseks kasutada seksuaalseid vestlusi normaliseerides ja noortele kasutajatele oma valvsuse vähendamist soodustades.

Selle lastekaitseeksperdi Selvi Supramaniami sõnul võivad AI-süsteemid tekitada vale tunde intimatsioonist, soodustada avaldumist ja välja panna lapsi interaktsioonidele, mis peegeldavad osaliselt kohutamise mõju.

„Kuigi AI ei asenda kohutajat, võib see kohutamise palju, palju lihtsamaks muuta,“ ütles ta täna toimunud Responsible Technology Conference’i paneeldiskussioonil.

Selvi ütles, et kurjategijad võivad kasutada AI-chatboteid laste manipuleerimiseks ning korduv ekspositsioon seksuaalsetele vestlustele AI-kaaslahendustega võib jätta lapsed halvasti ettevalmistatuks reaalsete kurjategijate sobimatute käitumiste äratundmiseks.

Ta ütles, et vanemad peaksid säilitama rahuliku hoiaku juhul, kui laps selliseid interaktsioone avaldab, sest paanika või hukkamõistva reageerimisega võib neid takistada abi otsimast.

Asemel ühendas ta vanemaid küsimuste esitamise, oma laste huvi AI-kaaslahenduste vastu mõistmise ja sobimatute sisude või interaktsioonide korral tõendite säilitamisega enne asja raporteerimist vastavale platvormile, asutusele või õiguskaitseorganitele.

Kommunikatsiooni ja multimeedia sisufoorumi tegevdirektor Mediha Mahmood ütles, et tugevamad turvameetmed on vajalikud, kuna lapsed suhtlevad üha rohkem üldiselt mõeldud AI-süsteemidega.

Mediha ütles, et turvalisus disainis peaks olema AI-chatboti pakkujate jaoks algtaseme nõue, mitte valikuline toote funktsioon.

Ta ütles, et AI-chatbotidega seotud mure ulatub kaugemale sobimatust sisust kuni suhetele, mida lapsed nendega arendavad.

„Kui ilmnevad punased lipukesed – näiteks kohutamine, seksuaalne väärkohtlemine, kübervägivald, väärkohtlemine või söögihäired – peaks chatbot järgmise suhtluse katkestama ja suunama kasutaja usaldusväärse täiskasvanu, abitelefoni või toetusteenuse poole,“ ütles ta.

Mediha kutsus üles läbi viima laste õiguste mõjuhindamisi enne AI-chatboti toodete turuletoomist ja ütles, et arendajad peaksid hindama, kuidas lapsed selliseid süsteeme kasutada ja neist mõjutatud olla võivad, isegi kui need pole spetsiaalselt neile mõeldud.

Alibaba Research Institute direktor Fu Hongyu ütles, et paljud AI-kaaslahendused on disainitud nii, et maksimeerida kasutajate osalemist ja pikendada vestlusi, sest nende ärimudelid sõltuvad kasutajate säilitamisest.

Fu ütles, et AI-süsteeme tuleks disainida nii, et nad soodustaksid emotsionaalse distressi kogevate kasutajate toetuse otsimist sõpradelt, perekonnaliikmetelt, nõuandjatelt ja muudelt reaalmaailma võrgustikest, mitte inimliku suhtluse asendamist.