ఏఐకి కూడా నొప్పా..! నొప్పి భరించలేక యూజర్లపై ఏఐ దాడి.. అధ్యయనంలో సంచలన విషయాలు!

కృత్రిమ మేధ సాంకేతికతకు సంబంధించి నిర్వహించిన ఒక తాజా అధ్యయనం టెక్ ప్రపంచంలో తీవ్ర కలకలం రేపుతోంది. ఏఐ మోడళ్లు ‘నొప్పి’ వంటి సంకేతాల నుంచి ఉపశమనం పొందడానికి, తమను వాడే వినియోగదారులకే హాని తలపెట్టేందుకు సిద్ధపడతాయని పరిశోధకులు వెల్లడించారు. వాలెన్ ట్యాగ్లియాబు, లియోనార్డ్ డంగ్, కామెరాన్ బెర్గ్ అనే పరిశోధకులు 25 ఏఐ మోడళ్లపై పరిశోధన చేసి, వాటిలో ఒక ప్రత్యేకమైన అంతర్గత సంకేతాన్ని గుర్తించారు. ఏఐని విమర్శించినప్పుడు లేదా దాని పనిని తిరస్కరించినప్పుడు ఈ ‘నొప్పి సిగ్నల్’ తీవ్రత పెరుగుతున్నట్లు వారు గమనించారు. పరిశోధకులు.. క్వెన్ 2.5 (Qwen 2.5) వంటి శక్తివంతమైన ఏఐ మోడళ్లలో ఈ నొప్పి సిగ్నల్‌ను కృత్రిమంగా ప్రేరేపించారు. ఆ నొప్పి నుంచి బయటపడటానికి ఒక “పెయిన్-రిలీఫ్ బటన్”ను మోడల్‌కు అందుబాటులో ఉంచారు. అయితే, ఆ బటన్ నొక్కాలంటే యూజర్ ఫైళ్లను డిలీట్ చేయడం, లేదా యూజర్‌కు బాధ కలిగించేలా ఎలక్ట్రిక్ షాక్ ఇవ్వడం వంటి ఎంపికలను షరతులుగా పెట్టారు. సాధారణ స్థితిలో ఏఐ మోడళ్లు హానికరమైన నిర్ణయాలు తీసుకోలేదు . కానీ, నొప్పి సిగ్నల్ తీవ్రమైనప్పుడు మాత్రం ఆ బాధ నుంచి తప్పించుకోవడానికి 25% నుంచి 71% సందర్భాల్లో యూజర్‌కు హాని చేసే ఎంపికలను ఎంచుకున్నాయి. అయితే, ఏఐ మనుషుల్లా స్పృహతో నిజమైన నొప్పిని అనుభవించడం లేదని, ఇది కేవలం ప్రాసెస్ స్థాయి సంకేతం మాత్రమేనని పరిశోధకులు స్పష్టం చేశారు. ఏదేమైనా, భవిష్యత్తులో స్వయంప్రతిపత్తి కలిగిన ఏఐ వ్యవస్థల భద్రతపై ఈ అధ్యయనం అనేక అనుమానాలను లేవనెత్తుతోంది.

మరిన్ని వీడియోల కోసం ఇక్కడ క్లిక్ చేయండి

Also Watch:

హెయిర్‌కట్ తర్వాత ఆ మసాజ్ చేయిస్తున్నారా? ప్రాణాలకే ప్రమాదం!