📌 Key Points
- సోషల్ మీడియాలో అడల్ట్ కంటెంట్ వ్యాప్తిని అరికట్టేందుకు AI అల్గారిథమ్లను ఉపయోగిస్తున్నారు.
- అల్గారిథమ్లను మోసం చేయడానికి ఫిల్టర్లు, కోడ్ భాషను వాడుతున్నారు.
- నిబంధనలు ఉల్లంఘించిన ఖాతాలపై ‘ఎక్స్’ చర్యలు తీసుకుంది.
- అంగీకారంతో కూడిన అడల్ట్ కంటెంట్ను ఎక్స్ అనుమతిస్తుంది, వయో పరిమితిని అమలు చేస్తుంది.
సోషల్ మీడియాలో అడల్ట్ కంటెంట్ శరవేగంగా వ్యాప్తి చెందుతోంది. ఇది యువత భవిష్యత్తును ప్రశ్నార్థకం చేస్తోంది. దీనిని అరికట్టడానికి సోషల్ మీడియా సంస్థలు AI అల్గారిథమ్లను ఉపయోగిస్తున్నాయి.
సోషల్ మీడియాలో అడల్ట్ కంటెంట్ విస్తరణ
ప్రస్తుతం సోషల్ మీడియా ప్రపంచాన్ని ఒక కొత్త వైరస్ వణికిస్తోంది. అదే ‘అడల్ట్ కంటెంట్’. ఒకప్పుడు సెన్సార్షిప్ ఉన్న సినిమాలకో లేదా ప్రత్యేక వెబ్సైట్లకో పరిమితమైన ఈ అశ్లీల కంటెంట్.. ఇప్పుడు మన అరచేతిలో ఉండే స్మార్ట్ఫోన్ ద్వారా ఫేస్బుక్, ఇన్స్టాగ్రామ్, ఎక్స్ (X) ఫీడ్లలో యథేచ్ఛగా దర్శనమిస్తోంది.
సాధారణంగా సోషల్ మీడియా సంస్థలు అడల్ట్ కంటెంట్ను గుర్తించడానికి ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) అల్గారిథమ్లను వాడుతుంటాయి. అయితే.. కేటుగాళ్లు అంతకుమించి ఆలోచిస్తున్నారు. ఏఐ అల్గారిథమ్లను మోసం చేసేందుకు వీడియోలపై రకరకాల ఫిల్టర్లు వాడటం, అసభ్య పదజాలాన్ని డైరెక్ట్ గా వాడకుండా కోడ్ లాంగ్వేజ్ను ఉపయోగించడం చేస్తున్నారు. ఫలితంగా ఈ వీడియోలు ఫిల్టర్లకు చిక్కకుండా నెటిజన్ల ఫీడ్లోకి వచ్చేస్తున్నాయి. ఇది నేటి యువత ఆలోచనా ధోరణిని చెడు మార్గం వైపు మళ్లిస్తోందని సామాజిక విశ్లేషకులు ఆందోళన వ్యక్తం చేస్తున్నారు.
AI అల్గారిథమ్లను మోసం చేసే మార్గాలు
గతంలో హీరోయిన్ల డీప్ఫేక్ వీడియోలు, ఇతర అసభ్యకర పోస్టుల విషయంలో ‘ఎక్స్’ (గతంలో ట్విట్టర్) వ్యవహరించిన తీరుపై భారత ప్రభుత్వం తీవ్రస్థాయిలో ఆగ్రహం వ్యక్తం చేసింది. ఐటీ నిబంధనల ప్రకారం కంటెంట్ నియంత్రణ చేయకపోతే.. ఆ సంస్థకు ఉన్న ‘సేఫ్ హార్బర్’ రక్షణను తొలగిస్తామని, అవసరమైతే దేశంలో కార్యకలాపాలు నిలిపివేయాల్సి ఉంటుందని (Ban) హెచ్చరించింది. దీనిపై స్పందించిన ఎక్స్ యాజమాన్యం, ఈ ఏడాది జనవరిలో భారీ ప్రక్షాళన చేపట్టింది. అధికారిక లెక్కల ప్రకారం.. నిబంధనలు ఉల్లంఘించిన 600కు పైగా ఖాతాలను శాశ్వతంగా బ్లాక్ చేయడంతో పాటు, సుమారు 3500కు పైగా అడల్ట్ పోస్టులను తొలగించింది.
ఎక్స్ ప్లాట్ఫారమ్ ఇటీవల తన పాలసీలో కీలక మార్పులు చేసింది. ‘కన్సెన్సువల్ అడల్ట్ కంటెంట్’ (పరస్పర అంగీకారంతో కూడిన అశ్లీల కంటెంట్) ను అధికారికంగా అనుమతిస్తూ నిర్ణయం తీసుకుంది. అడల్ట్ కంటెంట్ క్రియేటర్ల ద్వారా ప్లాట్ఫారమ్కు భారీగా యూజర్ ట్రాఫిక్ రావడంతో పాటు సబ్స్క్రిప్షన్ ఆదాయం లభిస్తోంది. అందుకే దీనిని పూర్తిగా నిషేధించడానికి ఎక్స్ సిద్ధంగా లేదనడంలో సందేహం లేదు. అయితే.. 18 ఏళ్ల లోపు యువతకు, తమ ప్రొఫైల్లో పుట్టిన తేదీ పేర్కొనని వారికి ఈ కంటెంట్ కనిపించకుండా ‘ఏజ్ గేటింగ్’ (Age-gating) అనే సాంకేతికతను అమలు చేస్తోంది.
‘ఎక్స్’ తీసుకుంటున్న చర్యలు, కొత్త నిబంధనలు
ఫేస్బుక్, ఇన్స్టాగ్రామ్ వంటి మెటా ప్లాట్ఫారమ్లు నిబంధనల విషయంలో ఎక్స్ కంటే కఠినంగా ఉన్నాయని చెబుతున్నా, క్షేత్రస్థాయిలో పరిస్థితి భిన్నంగా ఉంది. ఒక అసభ్యకర అకౌంట్ను బ్లాక్ చేస్తే, అదే పేరుతో లేదా వేరే ఐడీతో మరో పది అకౌంట్లు పుట్టుకొస్తున్నాయి. ఇది ఒక సవాలుగా మారింది. టెక్నాలజీ మారుతున్న కొద్దీ అశ్లీలత కొత్త రూపాలు సంతరించుకుంటోంది. కేవలం కంపెనీల సెన్సార్షిప్పైనే ఆధారపడకుండా, వినియోగదారులు కూడా అవగాహనతో ఉండాలి. అసభ్యకర కంటెంట్ను చూసిన వెంటనే రిపోర్ట్ చేయడం, సెట్టింగ్స్లో సెన్సిటివ్ కంటెంట్ కంట్రోల్ ఉపయోగించడం ద్వారా కొంతవరకు ఈ ముప్పును అరికట్టవచ్చు. ప్రభుత్వం కూడా ఐటీ చట్టాలను మరింత కఠినతరం చేయాల్సిన సమయం ఆసన్నమైంది.
సోషల్ మీడియా యాజమాన్యాలు అశ్లీల కంటెంట్ను అరికట్టడానికి కేవలం నిబంధనలు విధించడమే కాకుండా, టెక్నాలజీ, హ్యూమన్ వర్కర్ల సమన్వయంతో కఠిన చర్యలు తీసుకోవాలి. మల్టీ-లేయర్డ్ AI అల్గారిథమ్స్ ద్వారా అప్లోడ్ అయ్యే ప్రతి వీడియోను స్కాన్ చేసి, అసభ్యకరంగా ఉంటే ఆటోమేటిక్గా రిజెక్ట్ చేయాలి. ముఖ్యంగా ఏఐని మోసం చేసేలా వాడే ఫిల్టర్లు, కోడ్ లాంగ్వేజ్లను గుర్తించేలా అల్గారిథమ్లను నిరంతరం అప్డేట్ చేయాలి. కేంద్రీకృత ఏజ్ వెరిఫికేషన్ (Age Verification) వ్యవస్థను ప్రవేశపెట్టి, కేవలం ఆధార్ లేదా అధికారిక గుర్తింపు కార్డుల ద్వారా వయస్సు నిర్ధారణ అయిన వారికే సున్నితమైన కంటెంట్ కనిపించేలా చూడాలి. డీప్ఫేక్ (Deepfake) కంటెంట్ను గుర్తించే వాటర్ మార్కింగ్ టెక్నాలజీని వాడాలి. పదేపదే నిబంధనలు ఉల్లంఘించే వారిని డివైస్ లెవల్ బ్యాన్ (Device Ban) చేయడం ద్వారా కొత్త అకౌంట్లు తెరవకుండా అడ్డుకోవచ్చు. అలాగే.. యూజర్ల నుండి వచ్చే రిపోర్ట్లపై స్పందించడానికి హ్యూమన్ మోడరేషన్ టీమ్ను పెంచాలి. ఆదాయం కంటే సామాజిక బాధ్యతకే ప్రాధాన్యతనిస్తూ, అశ్లీల కంటెంట్ ద్వారా వచ్చే అడ్వర్టైజ్మెంట్ ఆదాయాన్ని నియంత్రించినప్పుడే ఈ సమస్యకు శాశ్వత పరిష్కారం లభిస్తుంది.
సోషల్ మీడియా సంస్థలు కంటెంట్ నియంత్రణకు చర్యలు తీసుకుంటున్నా, అశ్లీలత వ్యాప్తిని పూర్తిగా అరికట్టడం సవాలుగా మారుతోంది. దీనిపై మరింత దృష్టి సారించాల్సిన అవసరం ఉంది.
