Viimastel nädalatel on TikToki ümber puhkenud poleemika. massilise leviku tõttu tehisintellekti loodud rassistlikud videodNeed loomingud on laialdaselt levinud ja tekitanud ärevust uute tehisintellekti tööriistadega seotud riskide pärast, seades kahtluse alla platvormide ja arendajate endi võime seda ohjeldada. vihakõne mis liiguvad võrgus täiskiirusel.
Poleemika keskmes on Google'i uus tehisintellekt. Veo 3, mis hiljuti kasutusele võeti ja mis tõmbab tähelepanu oma võimega genereerida kuni kaheksa sekundi pikkused hüperrealistlikud klipid lihtsalt tekstist. Mitmete organisatsioonide, näiteks Media Mattersi, aruannete kohaselt on neid videoid TikToki üles laaditud kümnetelt kontodelt, kogudes miljoneid vaatamisi.
Rassistlikke stereotüüpe ja dehumaniseerimist täis videod
Kaebus Media Matters keskendub järgmisele: Sisu, mis kujutab mustanahalisi inimesi ahvide, kurjategijate või teatud toitude sõltlastena, samuti pilte immigrantidest, juutidest ja Aasia päritolu inimestest, keda pilgatakse ja võrreldakse kahjulikul viisil. Näiteks ühes kõige viraalsemas klipis tulistavad kaks valget politseinikku patrullautos mustanahalist inimest pärast tema poole osutamist, stseenil on üle 14 miljoni vaatamise.
Teised videod, mis on loodud rakendusega Veo 3, näitavad Aasia mehi, keda jälitavad tualetitarbed või keda ümbritsevad kasside ja koerte pildid, mis viitab vanadele stereotüüpidele, samal ajal kui juudi kogukonna liikmed ajavad taga kuldmünte või neile näidatakse otseseid viiteid natsismile ja koonduslaagritele. Neid klippe, mis paljudel juhtudel kannavad Google'i tehisintellekti nähtavat vesimärki, on jagatud selliste teemaviidete all nagu #Veo3 või #AI, mis hõlbustab veelgi nende viiruslikku levikut.
Lisaks selgesõnalisele sisule sisaldavad postituste kommentaarid ka suur hulk sõnumeid, mis toetavad või ülistavad esitatud stereotüübid, mis mitmekordistab diskrimineeriva diskursuse ulatust ja aitab kaasa selle normaliseerimisele.
Tehisintellekt kaitseb vigu ja modereerimisprobleeme
Nende videote ilmumine on näidanud, kui lihtne see on tehisintellekti automaatsete filtrite möödahiilimineKuigi Google reklaamis Veo 3-e kui täiustatud turvameetmetega tööriista (sh vesimärgid ja teatud päringute automaatne blokeerimine), on kasutajad suutnud leida süsteemi lüngad solvava sisu loomiseks.
Eksperdid juhivad tähelepanu sellele, et tehisintellekt ei suuda alati tabada mõnede rassistlike sümbolite ja viidete peensus, mis laseb tehnilistest filtritest läbi pääseda pilte, mis näivad süütud, kuid sisaldavad diskrimineerivat sõnumit, mille sellist materjali tarbida soovivad inimesed kergesti ära tunnevad. kontekstuaalse mõistmise ebaõnnestumised põhjustada paljude problemaatiliste loomingute läbikukkumist enne, kui moderaatorid need üle vaatavad.
TikToki pressiesindajate sõnul ühendab sotsiaalvõrgustik tuvastusalgoritme käsitsi modereerimine võitlemaks vihkamise ja väärinfo vastu ning väidab, et on eemaldanud kümneid kahtlusega seotud kontosid ja videoid, paljudel juhtudel enne skandaali meediasse jõudmist. Siiski levicidad de propagación muudab kahju juba tehtud, kui tegutsema hakatakse.
TikTok ja Google survestatakse oma poliitikat karmistama
Mõlemad ettevõtted on kordanud, et Need keelavad sõnaselgelt vihakõne või diskrimineeriva sisu levitamise oma platvormidel. TikTok rõhutab oma suunistes, et videod, mis dehumaniseerida mis tahes gruppi, samas kui Google väidab, et tema tehisintellekti teenused hõlmavad automaatset blokeerimist kahjulike terminite või kavatsuse tuvastamisel.
Praktikas aga Massiline modereerimine ei ole piisavEttevõtted ise tunnistavad, et videote maht Uute andmete üleslaadimise arvu suurenemine muudab tõhusa reaalajas kontrolli keeruliseks. Lisaks seisavad tehisintellekti puhul arendajad silmitsi raskustega kõigi keele- ja sümboolikavariantide kodeerimisel, mida saab piirangutest mööda hiilimiseks kasutada.
Pärast pahameelt on kodanikuorganisatsioonid, eksperdid ja akadeemikud nõudnud kaitsemeetmete tugevdamine digitaalse sisu loomisel. Ettepanekute hulka kuuluvad tehisintellekti kontekstuaalsete filtrite täiustamine, nähtavate ja eemaldamatute vesimärkide loomine ning avalike tööriistade loomine videote päritolu tuvastamiseks.
Viraalsus ja algoritm: vihkamine võimendub
Nende videote mõju ei piirdu ainult TikTokiga. Sarnaseid juhtumeid on tuvastatud nii Instagramis kui ka X-is (endine Twitter), kuigi väiksema mõjuga. Võti peitub selles, et soovituslik algoritm, mis annab nähtavust ja premeerib kõige viraalsemat sisu, olgu see siis positiivne või negatiivne.
Analüütikute sõnul tekitab see nähtus nõiaringiMida äärmuslikum on sisu, seda rohkem reaktsioone see esile kutsub, mis omakorda suurendab selle ulatust ja mõju avalikule arvamusele. Päris ja tehisintellekti loodud videote eristamise raskus muudab ülesande veelgi raskemaks, eriti nooremate kasutajate seas.
Kardetakse, et olukord halveneb, kui Google integreerib Veo 3 selliste toodetega nagu YouTube Shorts, mis hõlbustaks seda tüüpi videote massilist levitamist ja paneks taas kord proovile modereerimissüsteemide tõhususe.
See TikToki juhtum näitab Pakiline vajadus poliitika ja tehnoloogiate ümbermõtestamine seotud tehisintellekti ja sisuplatvormidega. Lisaks uutele loovuse vahenditele loob innovatsioon ka eetilised ja sotsiaalsed väljakutsed seda ei saa ignoreerida. Ilma kindla raamistikuta on oht, et tehisintellektist saab vihkamise valjuhääldi, suurem kui kunagi varem.