Zaj xov xwm no teev txog cov kev siv technology los tsim cov xwm txheej sexual violence.
Australia tej teej kawm tab tom raug nqua hu kom qhia tej xwm txheej deepfake rau tej nom tswv raws li qhov tsim nyog, rau lub caij uas muaj ''tej kev nthuav tej 'nudify apps' sai kawg nkaus tuaj ntxiv hauv online.
Julie Inman Grant uas yog tus coj lub koom haum eSafety commissioner tau sau ib tsab ntawv mus rau tej nom tswj dej num kev kawm thiab nqua hu kom lawv ua tib zoo xyuas kom tej teej kawm ua raws li tej xeev tej cai thiab yuam kom lawv yuav tsum tau qhia tej xwm txheej no raws li lub koom haum tswj cov kev nyab xeeb hauv online tau qhia rau hnub zwj Kuab (Friday).
Thiaj tau muaj tej xwm txheej no rau lub caij eSafety hais tias yeej tau muaj tej kev cej luam tias tau muaj tej neeg tau siv lwm tus tej duab coj mus siv tsis tsim nyog, li muab lawv tej duab hloov mus ua duab liab qab, suav cov deepfakes ntawm tej neeg hnoob nyoog qes dua 18 xyoo ntau tuaj ntxiv txog li ob npaug rau lub caij 18 hli (1 xyoos 6 hli) dhau los. Piv rau tej kev cej luam tag nrho uas tau muaj neeg qhia rau lub caij 7 xyoo dhau los.
Ces tej kev cej luam no thiaj txheeb tau tias tau muaj tej xwm txheej no rau plaub tug ntawm tsib tug ntxhais hluas.
Txawm li cas los eSafety yeej tsis coj tej xwm txheej uas muaj neeg cej luam qhia rau nws mus qhia rau lwm tus paub, los cov xwm txheej no uas ''tau muaj ntau heev sai tuaj ntxiv no'' ua rau muaj kev txhawj xeeb heev, thiab Inman Grant tau ceeb toom tias tej zaum qhov tseeb ntawm tej xwm txheej no tseem yuav phem tshaj qhov peb paub lawm thiab.
Grant tau hais tias "Peb xav tias tej xwm txheej uas raug qhia rau peb paub ntawd tseem tsis tau qhia txog qhov tseeb ntawm tej teeb meem no tiag,''
"Thiab raws li tej xov xwm uas tej neeg ntiag tug tau ntsib los yog tej uas peb tau hnov ntawm tej coj teej kawm los yog tej neeg sawv cev rau tej chaw qhia ntawv lawm ces yeej muaj tej xwm txheej deepfake tab tom tshwm sim ntau tuaj ntxiv, hais tsi ntsees rau lub caij tej me nyuam yaus muaj peev xwm mus siv tau tej technology no yooj yim thiab tau siv tej nudify apps ua tej tsis tsim nyog siv ntawm tej teej kawm.''
'Yog ib co teeb meem loj rau tej teej kawm'
Deepfake technology ces yog cov kev siv cov artificial intelligence pab kom tej neeg siv muaj peev xwm tswj los yog hloov kho tau tej duab thiab tej video uas eSafety hais tias ''yog ib co teeb meem loj rau tej teej kawm thoob teb chaws Australia.''
Nws hais tias tej twj hais tsi ntsees rau cov 'nudify apps' ces yog tej uas tej hluas tab tom siv ntau tuaj ntxiv, thiab muaj peev xwm siv coj los tsim tej duab liab qab suav tsim tej me nyuam yaus tej duab liab qab uas tsis tau txais kev tso cai ntawm tej tswv duab nrog thiab.
Tej technology no ces yeej muaj peev xwm siv tau dawb, siv tau sai thiab siv tau yooj yim heev thiab muaj peev xwm tsim tau teeb meem loj rau tej neeg ntiag tug.
Inman Grant tau hais tias "Txawm tib daim duab xwb los tej apps no yeej muaj peev xwm siv cov AI technology muab hloov los ua tau cov duab liab qab rau sij hawm ob peb feeb xwb,''
"Thiab qhov txaus txhawj xeeb heev mas, peb yeej tau pom tias tau muaj neeg tau siv tej apps no coj mus ua kom tej me nyuam yaus ntawm tej teej kawm los yog ib tug twg txaj muag, coj mus thab zes los yog coj mus siv tawm tsam thiab yuam ib tug twg. Thiab kuj tau muaj neeg qhia tias ib txhia duab no yeej raug coj mus muag rau tej me nyuam yaus ntawm tej teej kawm kom tau nyiaj thiab.''
Muaj cov kev tsim deepfakes 'tas mus li lawm'
Asher Flynn uas yog ib tug zes kais qhia feem txuj txog cov kev ua txhaum cai tawm tsev kawm qib siab Monash University, uas paub zoo txog cov kev siv AI tsim teeb meem tau hais tias eSafety tej kev cej luam uas qhia tias tau muaj tej xwm txheej no ntau tuaj ntxiv ''yog tej yam txaus txhawj xeeb heev, tab sis kuj tsis yog tej yam uas nyob nyob cia li tshwm sim xwb thiab.''
Nws tau qhia rau SBS News tias "Peb yeej tau pom tias tau muaj tej twj deepfake uas siv tau yooj yim heev ntau heev hauv online lawm, thiab peb yeej tau pom tias tau muaj cov kev tsim tej deepfake content tas mus li lawm.''
Flynn cov kev teeb txheeb kuj tseem qhia ntxiv tias tau muaj cov sexualised deepfake abuse ntau tuaj ntxiv thiab ua rau muaj teeb meem zoo sib xws li lwm cov technology uas raug siv coj los tsim cov sexual violence thiab. Tsis hais yog cov kev ntaus lub cev ntaj ntsug, ua rau muaj kev nyuaj siab ntxhov plawv, ua rau muaj teeb meem rau lawv lub neej ntawm zejzog, ua rau ib tug twg puas koob npe, thiab ua rau muaj teeb meem nyiaj txiaj rau tej neeg raug lwm tus ua phem rau.
"Peb los kuj tab tom pom tias muaj ntau yam tsis hais yob cov kev ua rau muaj cov kev txau siab rau cov kev daj dee, los yog txhob txwm tsim teeb meem rau ib tug twg, los yog coj los tswj los yog ua kom puas koob npe rau tej neeg raug teeb meem, mus txog rau ua kev tso dag tso luag, thiab ua kom tus neeg uas pheem tsim tej xwm txheej no muaj fwj chim nrog lawv tej phooj ywg, thiab cov kev xav paub txog tej txheej txheem tias tsim thiab ua tej deepfake no li cas yog cov uas ua rau muaj tej xwm txheej no.''
Shahriar Kaisar uas yog ib tug zeskais paub zoo txog cov information systems ntawm tsev kawm qib siab RMIT University — uas paub tsi ntsees rau phab txuj generative AI — tau hais tias deepfakes ras los ua "ib co teeb meem loj heev" rau ntau xyoo dhau los no lawm thaum tau muaj tej neeg tig los nyiam siv cov generative AI ntau tuaj ntxiv.
Nws tau qhias rau SBS News tias "Vim rau qhov yeej muaj tej technology (Generative AI) no rau tej neeg txhua leej txhua tus siv li lawm. Thiab muaj peev xwm los tsim tau cov deepfakes yooj yim tshaj qub ntxiv — thiab muaj peev xwm tsim tau tej duab hauv online tau sai heev lawm.''
Thiab yog tham txog tej hluas lawm ces nws tau ceeb toom tias yuav muaj peev xwm muaj tau tej xwm txheej no tshwm sim hauv online los yog ntawm tej teej kawm, piv txwv li tej messaging apps, ''uas peb yeej haj yam tsis tshua pom tau yooj yim tias seb tej hluas ho faib dab tsi rau lwm tus hluas.''
'Peb yeej yuav tsis ua xyem xyav rau cov kev siv cai lij choj los tswj/rau txim'
Inman Grant tau hais tias nws lub koom haum yeej tau koom tes los ntev nrog tub ceev xwm, tej neeg tsim cov app thiab tej tswv social media platforms ''los ceeb toom rau tej neeg pheej tsim tej teeb meem no.'
Thiaj yeej tau tsim tej cai los ua kom ntiaj teb tej tuam txhab technology loj yuav tsum tau tawm tsam nrog tej online contents tsis zoo, suav cov deepfakes thiab cov 'nudify' apps uas raug coj los teev nrog ntawm tsev tsoom fwv tsis ntev los no thiab.
Nws tau hais tias yog tias tej tuam txhab tsis ua raws tej cai uas yuam kom lawv ua no ces tej zaum yuav raug nplua nyiaj yuav laug txog li ntawm $50 million txij lub limtiam no mus lawm.
Nws tau hais tias "Peb yuav tsis ua xyem xyav yuav siv tej cai los rau txim rau tej neeg ua txhaum ntxiv lawm.''
Flynn tau hais tias yuav tsum tau los ua ntau yam los daws tej xwm txheej no. Dua ntawm qhov uas yuav tau hais kom tej social media platforms thiab tej neeg tsim tej online contents yuav tau nrog xyuas lawm, nws kuj tau hais tias yuav tsum tau los tsim ib cov kev kawm thiab qhia kom tej neeg paub txog tej xwm txheej no, thiab npaj ib co peev txheej coj los tiv thaiv kom muaj kev pauv hloov rau ''tej teeb meem cuam tshuam txog cov genders thiab cov kev vam kev cia siab ntawm tej kab lis kev cai uas muaj rau tej neeg no tias yuav tsis zam tsis pom zoo rau tej cwj pwm zoo li no.''
Tsis tas li ntawd los Flynn tau hais ntxiv tias yuav tsum muaj cov kev siv cai lij choj los tswj ua tib zoo xyuas kom coj tau tej neeg ua txhaum coj los rau txim thiab ua ke no los yuav tsum tau los pab kom tej hluas muaj kev nkag siab txog tej cwj pwm tsis zoo no.
Kaisar los kuj txhawb nqa kom sib lub tswv yim ''cuam tshuam txog ntau yam thiab.''
Nws tau hais tias "Peb yeej tab tom kho tej cai thiab kuj yog tej yam zoo uas peb tau tsim tau tsab cai no tsaib no lawm.''
"Tab sis qhov tseem ceeb tshaj ces yog cov kev qhia kom tej neeg paub txog tej xwm txheej no, thiab pab kom tej me nyuam yaus uas tseem kawm ntawv nkag siab txog cov kev siv technology no raws li qhov tsim nyog siv xwb.''
eSafety tau qhia txog nws tej twj tshiab coj los pab tej teej kawm npaj thiab tswj tej xwm txheej deepfake.
Uas nws yeej tau txhawb nqa kom tej teej kawm qhia ib co xwm txheej ua txhaum cai twg rau tej tub ceev xwm zos paub.
Inman Grant tau hais tias "Kuv xav nqua hu kom tej teej kawm yuav tsum tau qhia tej lus iab liam txog ib co kev ua txhaum cai twg li cov kev tsim tej deepfake los tsim teeb meem rau tej tub kawm hnoob nyoog tsis tau no 18 xyoo rau tub ceev xwm paub, tsis tas li ntawd los xav kom ua tib zoo xyuas kom lawv tej zejzog paub txog tias lub koom haum eSafety yeej npaj txij yuav los tshem tej contents tsis zoo no tawm kom sai thiab,''
"Yeej paub tseeb tias raws li tej contents uas twb tau tsim raws cov public domain, thiab tej uas peb tau hnov ncaj qha los ntawm tej chaw qhia ntawv ntawd ces yeej tsis yog tab tom muaj tej xwm txheej no tshwm sim.''
Yog tias koj los yog ib tug twg koj paub ntsib teeb meem kub ntxhov hauv lub cuab yig ces hu rau lub koom haum 1800RESPECT tus xov tooj 1800 737 732, los yog text rau tus xov tooj 0458 737 732, los sis txheeb tau ntawm lub vas sab 1800RESPECT.org.au. Thiab yog tias ho poob rau tej xwm txheej phom sij ti tes ti taw uas yuav raug kev phom sij rau txoj sia ces hu rau tus xov tooj 000.
Tsis tas li ntawd los yej muaj peev xwm sib txuas lus tau nrog cov kev pab cuam rau tej txiv neej hu ua The Men’s Referral Service, uas lub koom haum No to Violence uas tus tswj raws tus zauv xov tooj 1300 766 491 thiab.
