Grok AI దుర్వినియోగంపై X కు కేంద్రం షాక్ నోటీసు
Grok AI దుర్వినియోగంతో X వేదికపై అశ్లీల, అసభ్య కంటెంట్ పెరుగుతోందన్న ఆరోపణలపై కేంద్ర ప్రభుత్వం తీవ్రంగా స్పందించింది. చట్టబద్ధ బాధ్యతలు పాటించడంలో వైఫల్యం చెందిందంటూ X కు కేంద్ర ఎలక్ట్రానిక్స్, సమాచార సాంకేతిక శాఖ షాక్ నోటీసు జారీ చేసింది. 72 గంటల్లోగా తీసుకున్న చర్యలపై సమగ్ర నివేదిక సమర్పించాలని ఆదేశించింది.
సోషల్ మీడియా వేదిక Xలో Al ఆధారిత సేవ ‘గ్రోక్ (Grok AI)’ను దుర్వినియోగం చేస్తూ అశ్లీల, నగ్న, అసభ్య కంటెంట్ రూపొందించి ప్రచారం చేస్తున్న ఘటనలపై కేంద్ర ప్రభుత్వం తీవ్ర ఆందోళన వ్యక్తం చేసింది. ఈ విషయంలో చట్టబద్ధ బాధ్యతలను పాటించడంలో X వైఫల్యం చెందిందంటూ కేంద్ర ఎలక్ట్రానిక్స్, సమాచార సాంకేతిక శాఖ షాక్ నోటీసు జారీ చేసింది. 72 గంటల్లోగా తీసుకున్న చర్యలపై సమగ్ర నివేదిక సమర్పించాలని ఆదేశించింది. X వేదికలో ‘Grok AI’ సేవను ఉపయోగించి నకిలీ ఖాతాలు సృష్టించి మహిళల ఫోటోలు, వీడియోలను వక్రీకరించడం, అసభ్యంగా ప్రచారం చేయడం జరుగుతోందని కేంద్రం పేర్కొంది. ఈ దుర్వినియోగం మహిళల గౌరవం, గోప్యత, భద్రతను తీవ్రంగా ఉల్లంఘిస్తున్నదని స్పష్టం చేసింది. కేవలం నకిలీ ఖాతాలకే పరిమితం కాకుండా, నిజమైన ఖాతాలపై ఉన్న మహిళల చిత్రాలను కూడా Al ప్రాంప్ట్ల ద్వారా వికృతంగా మార్చి ప్రచారం చేస్తున్నారని నోటీసులో వివరించింది.
ఐటీ చట్టం–2000, ఐటీ (ఇంటర్మీడియరీ మార్గదర్శకాలు, డిజిటల్ మీడియా ఎథిక్స్ కోడ్) నిబంధనలు–2021ను X సరైన విధంగా అమలు చేయడం లేదని కేంద్రం అభిప్రాయపడింది. ముఖ్యంగా అశ్లీల, అసభ్య, పోర్నోగ్రాఫిక్, బాలలపై దౌర్జన్యానికి సంబంధించిన కంటెంట్ విషయంలో తగిన నియంత్రణ చర్యలు తీసుకోవడంలో విఫలమైందని పేర్కొంది. డిసెంబర్ 29, 2025న జారీ చేసిన అడ్వైజరీని గుర్తు చేస్తూ, అన్ని సోషల్ మీడియా మధ్యవర్తులు తమ కంటెంట్ మోడరేషన్ వ్యవస్థలను తక్షణమే సమీక్షించాలని అప్పుడే స్పష్టంగా ఆదేశించినట్టు కేంద్రం వెల్లడించింది.
ఈ నేపథ్యంలో X సంస్థకు కేంద్రం కీలక ఆదేశాలు జారీ చేసింది. Grok AI యాప్పై సాంకేతిక, విధానపరమైన సమగ్ర సమీక్ష చేయాలి. అశ్లీల, నగ్న, లైంగిక కంటెంట్ ఉత్పత్తి అయ్యే అవకాశం లేకుండా భద్రతా గార్డ్రైల్స్ బలోపేతం చేయాలి. నిబంధనలు ఉల్లంఘించిన యూజర్లు, ఖాతాలపై సస్పెన్షన్, టెర్మినేషన్ వంటి కఠిన చర్యలు తీసుకోవాలి. ఇప్పటికే చట్ట విరుద్ధంగా ఉన్న కంటెంట్ను తక్షణమే తొలగించాలి. తీసుకున్న చర్యలపై 72 గంటల్లోగా వివరమైన నివేదికను సమర్పించాలి.
ఈ నిబంధనలు పాటించకపోతే ఐటీ చట్టంలోని సెక్షన్ 79 కింద లభించే రక్షణ (సేఫ్ హార్బర్) కోల్పోవాల్సి వస్తుందని కేంద్రం హెచ్చరించింది. ఐటీ చట్టం, భారతీయ న్యాయ సంహిత (BNS), భారతీయ నాగరిక సురక్షా సంహిత (BNSS)తో పాటు ఇతర చట్టాల ప్రకారం X సంస్థతో పాటు బాధ్యత వహించే అధికారులపై కూడా కఠిన చర్యలు తీసుకుంటామని స్పష్టం చేసింది. ఈ ఆదేశాలు సంబంధిత అధికారుల అనుమతితో జారీ చేసినట్లు MeitY జాయింట్ సెక్రటరీ అజిత్ కుమార్ తెలిపారు.