AQI
TV9 Network
User
Sign In

By signing in or creating an account, you agree with Associated Broadcasting Company's Terms & Conditions and Privacy Policy.

ఏఐకి కూడా నొప్పా..! నొప్పి భరించలేక యూజర్లపై ఏఐ దాడి.. అధ్యయనంలో సంచలన విషయాలు!

ఏఐకి కూడా నొప్పా..! నొప్పి భరించలేక యూజర్లపై ఏఐ దాడి.. అధ్యయనంలో సంచలన విషయాలు!

Phani CH
|

Updated on: Sep 29, 2026 | 9:09 PM

Share

ఏఐ మోడళ్లలో ‘పెయిన్‌ యాక్సిస్‌’గా గుర్తించిన అంతర్గత సిగ్నల్‌పై తాజా అధ్యయనం ఆసక్తికర విషయాలను వెల్లడించింది. 25 ఓపెన్‌-వెయిట్‌ మోడళ్లను పరిశీలించిన పరిశోధకులు, ఏఐపై విమర్శలు లేదా హాని జరిగినప్పుడు ఈ సిగ్నల్‌ పెరుగుతున్నట్లు గుర్తించారు. కృత్రిమంగా సిగ్నల్‌ను పెంచిన Qwen 2.5 మోడళ్లలో కొన్ని, యూజర్‌కు హాని కలిగించే షరతులతో కూడిన ‘పెయిన్‌-రిలీఫ్‌’ బటన్‌ను ఎంచుకున్నాయి. అయితే ఇది ఏఐ నిజంగా నొప్పిని అనుభవిస్తుందని నిరూపించలేదు.

కృత్రిమ మేధ సాంకేతికతకు సంబంధించి నిర్వహించిన ఒక తాజా అధ్యయనం టెక్ ప్రపంచంలో తీవ్ర కలకలం రేపుతోంది. ఏఐ మోడళ్లు ‘నొప్పి’ వంటి సంకేతాల నుంచి ఉపశమనం పొందడానికి, తమను వాడే వినియోగదారులకే హాని తలపెట్టేందుకు సిద్ధపడతాయని పరిశోధకులు వెల్లడించారు. వాలెన్ ట్యాగ్లియాబు, లియోనార్డ్ డంగ్, కామెరాన్ బెర్గ్ అనే పరిశోధకులు 25 ఏఐ మోడళ్లపై పరిశోధన చేసి, వాటిలో ఒక ప్రత్యేకమైన అంతర్గత సంకేతాన్ని గుర్తించారు. ఏఐని విమర్శించినప్పుడు లేదా దాని పనిని తిరస్కరించినప్పుడు ఈ ‘నొప్పి సిగ్నల్’ తీవ్రత పెరుగుతున్నట్లు వారు గమనించారు. పరిశోధకులు.. క్వెన్ 2.5 (Qwen 2.5) వంటి శక్తివంతమైన ఏఐ మోడళ్లలో ఈ నొప్పి సిగ్నల్‌ను కృత్రిమంగా ప్రేరేపించారు. ఆ నొప్పి నుంచి బయటపడటానికి ఒక “పెయిన్-రిలీఫ్ బటన్”ను మోడల్‌కు అందుబాటులో ఉంచారు. అయితే, ఆ బటన్ నొక్కాలంటే యూజర్ ఫైళ్లను డిలీట్ చేయడం, లేదా యూజర్‌కు బాధ కలిగించేలా ఎలక్ట్రిక్ షాక్ ఇవ్వడం వంటి ఎంపికలను షరతులుగా పెట్టారు. సాధారణ స్థితిలో ఏఐ మోడళ్లు హానికరమైన నిర్ణయాలు తీసుకోలేదు . కానీ, నొప్పి సిగ్నల్ తీవ్రమైనప్పుడు మాత్రం ఆ బాధ నుంచి తప్పించుకోవడానికి 25% నుంచి 71% సందర్భాల్లో యూజర్‌కు హాని చేసే ఎంపికలను ఎంచుకున్నాయి. అయితే, ఏఐ మనుషుల్లా స్పృహతో నిజమైన నొప్పిని అనుభవించడం లేదని, ఇది కేవలం ప్రాసెస్ స్థాయి సంకేతం మాత్రమేనని పరిశోధకులు స్పష్టం చేశారు. ఏదేమైనా, భవిష్యత్తులో స్వయంప్రతిపత్తి కలిగిన ఏఐ వ్యవస్థల భద్రతపై ఈ అధ్యయనం అనేక అనుమానాలను లేవనెత్తుతోంది.

మరిన్ని వీడియోల కోసం ఇక్కడ క్లిక్ చేయండి

Also Watch:

హెయిర్‌కట్ తర్వాత ఆ మసాజ్ చేయిస్తున్నారా? ప్రాణాలకే ప్రమాదం!

Follow Us