Meta i Mark Zuckerberg ka kërkuar falje pasi përdoruesit e Instagramit iu nënshtruan postimeve të dhunës, përgjakjes dhe abuzimit me kafshë e trupa të vdekur në Reels.
Ky incident alarmues është shkaktuar nga një mosfunksionim të dukshëm në algoritmin e Instagramit, që ka bërë që përdoruesit të rrezikojnë shëndetin mendor dhe mirëqenien e tyre për shkak të përmbajtjes shokues dhe të papërshtatshme. Një numër i madh përdoruesish kanë raportuar se kanë hasur video dhe imazhe të dhunshme që shfaqin skena që janë në thelb të papranueshme për një platformë sociale.
Reels është një veçori e njohur në platformën Instagram që lejon përdoruesit të ndajnë video të shkurtra, të ngjashme me TikTok. Megjithatë, sipas disa njerëzve, përmbajtja e krijuar përmes kësaj veçorie ndonjëherë tejkalon kufijtë e pranueshmërisë dhe krijon një ambient të rrezikshëm për ata që e përdorin.
Raportime të shumta kanë vënë në dukje ngjarje tragjike, si një video ku një njeri shtypet nga një elefant dhe një tjetër ku një burrë goditet nga një helikopter, duke ilustruar natyrën e dhunshme të përmbajtjes që ka shpërthyer në platformë. Këto video kanë shkaktuar një reagim të fortë nga publiku dhe kanë ngritur shqetësime serioze mbi sigurinë e moderimit të përmbajtjes nga ana e Meta-s.
Një zëdhënës i Meta tha: “Ne kemi rregulluar një gabim që bëri që disa përdorues të shihnin përmbajtje në burimin e tyre të Instagram Reels që nuk duhej të rekomandohej. Kërkojmë falje për gabimin.” Kjo deklaratë gjithashtu tregon se kompania është e angazhuar për të përmirësuar përvojën e përdoruesve dhe për të siguruar se përmbajtja që shpërndahet është në përputhje me udhëzimet e saj të përmbajtjes.
Gabimi që rezultoi në këtë situatë vjen pas ndryshimeve të fundit në qasjen e kompanisë ndaj moderimit të përmbajtjes. Të dhënat sugjerojnë se Meta ka bërë përpjekje për të përmirësuar procesin e saj të filtrimit dhe se mund të jetë work in progress sa i përket efektivitetit të algoritmave të saj.
Udhëzimet e përmbajtjes së Meta thonë se kompania do të heqë përmbajtjen që është “veçanërisht e dhunshme” dhe se disa imazhe do të mbrohen nga ekranet e përmbajtjes. Këto përpjekje, megjithatë, duket se nuk ishin të mjaftueshme për të parandaluar shpërthimin e përmbajtjeve të papërshtatshme në Reels, duke nxitur nevojën për një rishikim të plotë të procesit të moderimit dhe filtrimit.
E ardhmja e platformës përballen me sfida të thella, pasi përdoruesit kërkojnë një hapësirë më të sigurt dhe më përmbajtëse. Meta duhet të tregojë një angazhim të qartë dhe proaktiv për të garantuar që ndodhitë si këto të mos përsëriten në të ardhmen dhe se përdoruesit ndihen të mbrojtur në ambientin e tyre virtual.
Ky incident gjithashtu hap një bisedë më të gjerë mbi rolin që teknologjia ka në jetët tona dhe rëndësinë e moderimit të përmbajtjes në platforma sociale. Ndërsa përdoruesit e kërkojnë autonominë për të shprehur veten, është thelbësore që këto shprehje të mos dëmtojnë mirëqenien e tyre dhe të të tjerëve. Meta ka përgjegjësinë për të siguruar se kufijtë e standartit dhe sigurisë përmbushen në çdo hap të procesit të moderimit të përmbajtjes.
