Obscene Content Blocked: అసభ్య కంటెంట్‌పై ‘ఎక్స్’ ఉక్కుపాదం: తప్పు జరిగిందన్న సంస్థ.. వేలాది ఫోటోలు, వందలాది ఖాతాలపై వేటు!

Obscene Content Blocked: నేటి డిజిటల్ యుగంలో సోషల్ మీడియా వేదికలు సమాచార మార్పిడికి ఎంతగానో తోడ్పడుతున్నాయో, అదే స్థాయిలో దుర్వినియోగానికి కూడా గురవుతున్నాయి. కృత్రిమ మేధ (AI) సాయంతో సృష్టించిన అసభ్యకరమైన కంటెంట్, మార్ఫింగ్ ఫోటోలు ఇటీవలి కాలంలో ‘ఎక్స్’ (గతంలో ట్విట్టర్) వేదికగా కలకలం సృష్టించాయి. సెలబ్రిటీల నుండి సామాన్య పౌరుల వరకు ఈ ‘డీప్‌ఫేక్’ (Deepfake) టెక్నాలజీ బారిన పడి మానసిక వేదనకు గురవుతున్నారు. ఈ నేపథ్యంలో భారత ప్రభుత్వం తీసుకున్న కఠిన చర్యలకు ఎక్స్ సంస్థ ఎట్టకేలకు తలొగ్గింది.

లోపాలున్నాయని అంగీకరించిన ఎక్స్

ఎక్స్‌లో పెచ్చుమీరిన అసభ్య కంటెంట్‌పై భారత ప్రభుత్వం తీవ్ర ఆగ్రహం వ్యక్తం చేస్తూ, ఐటీ నిబంధనల కింద ఆ సంస్థకు నోటీసులు జారీ చేసింది. దీనిపై తాజాగా స్పందించిన ఎక్స్ సంస్థ, కేంద్రానికి సమగ్ర వివరణ ఇచ్చింది. ఈ ప్రక్రియలో తమ వంతు పొరపాటు జరిగిందని సంస్థ బహిరంగంగా అంగీకరించింది. కంటెంట్ మోడరేషన్‌లో  తాము వైఫల్యం చెందామని, తమ ప్లాట్‌ఫారమ్ వ్యవస్థలో ఉన్న కొన్ని సాంకేతిక లోపాల వల్లే ఇటువంటి అసభ్యకరమైన వీడియోలు, ఫోటోలు విపరీతంగా వ్యాప్తి చెందాయని సంస్థ వివరణ ఇచ్చింది. భవిష్యత్తులో ఇటువంటివి పునరావృతం కాకుండా తమ భద్రతా ప్రమాణాలను మెరుగుపరుస్తామని సంస్థ హామీ ఇచ్చింది.

వందలాది ఖాతాలపై వేటు

తమ ప్లాట్‌ఫారమ్‌ను ప్రక్షాళన చేసే పనిలో భాగంగా ఎక్స్ సంస్థ ఇప్పటికే భారీ చర్యలు చేపట్టింది. ఇప్పటివరకు సుమారు 3,500 అసభ్యకరమైన ఫోటోలు, వీడియో కంటెంట్‌ను శాశ్వతంగా బ్లాక్ చేసినట్లు సంస్థ వెల్లడించింది. అలాగే, ఉద్దేశపూర్వకంగా ఇటువంటి కంటెంట్‌ను ప్రచారం చేస్తున్న, AI టూల్స్‌ను దుర్వినియోగం చేస్తున్న 600 ఎక్స్ ఖాతాలను పూర్తిగా తొలగించినట్లు ప్రకటించింది. నిరంతర పర్యవేక్షణ కోసం ప్రత్యేక బృందాలను రంగంలోకి దించినట్లు సంస్థ పేర్కొంది.

కేంద్రం కఠిన హెచ్చరిక:

డిజిటల్ పౌరుల భద్రత విషయంలో రాజీ పడే ప్రసక్తే లేదని కేంద్ర ప్రభుత్వం స్పష్టం చేసింది. ఐటీ చట్టం 2000లోని సెక్షన్ 79 ప్రకారం, సోషల్ మీడియా సంస్థలు (Intermediaries) తమ వేదికలపై అప్లోడ్ అయ్యే కంటెంట్ విషయంలో బాధ్యతాయుతంగా వ్యవహరించాల్సి ఉంటుంది. నిబంధనలను పాటించడంలో నిర్లక్ష్యం వహిస్తే, ఆ సంస్థలకు ఉండే ‘సేఫ్ హార్బర్’ హోదాను తొలగించి, న్యాయపరమైన, చట్టపరమైన చర్యలు ఎదుర్కోవాల్సి ఉంటుందని ప్రభుత్వం హెచ్చరించింది.

సామాజిక బాధ్యత అవసరం

సోషల్ మీడియా సంస్థలు కేవలం లాభాపేక్షతోనే కాకుండా, సమాజం పట్ల బాధ్యతను కూడా కలిగి ఉండాలి. ముఖ్యంగా మహిళలు, పిల్లల గౌరవానికి భంగం కలిగించే కంటెంట్‌ను గుర్తించిన వెంటనే తొలగించే విధంగా తమ అల్గారిథమ్స్ (Algorithms) లో మార్పులు చేసుకోవాలి. యూజర్లు కూడా ఇటువంటి కంటెంట్ కనిపిస్తే వెంటనే ‘రిపోర్ట్’ (Report) చేయడం ద్వారా తమ వంతు బాధ్యతను నిర్వర్తించాలి. టెక్నాలజీ పెరుగుతున్న కొద్దీ దానికి తగిన రక్షణ కవచాలను నిర్మించుకోవడం నేటి తక్షణ అవసరం.