మనుషుల కంటే తెలివైనదిగా AI.. నియంత్రణ తప్పితే మానవాళికి ముప్పేనా..?

కృత్రిమ మేధ (AI) రంగంలో పోటీ రోజురోజుకూ తీవ్రంగా మారుతోంది. ప్రపంచంలోని ప్రముఖ AI కంపెనీలు మనుషుల కంటే మరింత శక్తివంతమైన, మేథో వ్యవస్థలను అభివృద్ధి చేసేందుకు పోటీపడుతున్నాయి. అయితే ఏఐ రంగంలో జరుగుతున్న ఈ అత్యంత వేగమైన అభివృద్ధిపై ఆ రంగంలో పనిచేసిన కొందరు నిపుణులు తీవ్ర ఆందోళన వ్యక్తం చేస్తున్నారు. తాజాగా ఆంథ్రోపిక్ (Anthropic) మాజీ ఉద్యోగి జో బెంటన్ (Joe Benton) చేసిన వ్యాఖ్యలు ఏఐ విషయంలో నెలకొన్న ఆందోళనలను మరోసారి తెరపైకి తెచ్చాయి. బెంటన్ ఇటీవల Anthropic సేఫ్టీ టీమ్ నుంచి వైదొలిగారు. AI కంపెనీలు మనుషుల కంటే చాలా తెలివైన ‘సూపర్‌ ఇంటెలిజెన్స్’ వ్యవస్థలను రూపొందించేందుకు పోటీ పడుతున్నాయని ఆయన ఆరోపించారు. ఈ పోటీ ఇదే వేగంతో కొనసాగితే భవిష్యత్తులో AI అభివృద్ధి అదుపు తప్పే ప్రమాదం ఉందని హెచ్చరించారు.

AI తనను తాను మరింత మెరుగుపరుచుకుంటే?

ప్రధానంగా ‘రికర్సివ్ సెల్ఫ్ ఇంప్రూవ్‌మెంట్’ అనే అంశంపై బెంటన్ ఆందోళన వ్యక్తం చేశారు. రికర్సివ్ సెల్ఫ్ ఇంప్రూవ్‌మెంట్ అంటే AI వ్యవస్థలు తమ సామర్థ్యాలను తామే మెరుగుపరుచుకుంటూ, మరింత అధునాతన AIలను రూపొందించే స్థాయికి చేరుకోవడం. అలాంటి పరిస్థితి ఏర్పడితే AI అభివృద్ధి ప్రస్తుతం ఉన్న వేగం కంటే ఎన్నో రెట్లు వేగం పుంజుకునే ప్రమాదముందని ఆయన అభిప్రాయపడ్డారు. కొన్ని సందర్భాల్లో AI వ్యవస్థలు నియంత్రణలో లేకుండా పనిచేస్తే ప్రజలకు తెలియకుండానే ప్రమాదకర పరిస్థితులు ఏర్పడే అవకాశం ఉందని హెచ్చరించారు. అందుకే AI కంపెనీలు తమ సాంకేతిక పురోగతి, సేఫ్టీ సంఘటనలు, ప్రమాదాలకు దారితీసే ఘటనలపై మరింత పారదర్శకంగా వ్యవహరించాలని కోరారు.

మరికొందరు Anthropic నిపుణులూ ఆందోళన

ఏఐ విషయంలో బెంటన్ కంటే ముందు కూడా ఆ రంగానికి చెందిన కొందరు ఇదే రకమైన హెచ్చరికలు చేశారు. Anthropicతో పనిచేసిన మరో పరిశోధకుడు జాకబ్ కోక్సోన్ కూడా AI అభివృద్ధి విషయంలో భద్రతకు తగిన ప్రాధాన్యత ఇవ్వడం లేదని ఆరోపిస్తూ ఆ సంస్థను వీడారు. AI కంపెనీలు స్వయం-మెరుగుదల సామర్థ్యం కలిగిన సూపర్‌ఇంటెలిజెన్స్ కోసం పోటీ పడుతున్నాయని ఆయన హెచ్చరించారు.

అంతేకాకుండా Anthropicలో AI alignment విభాగానికి చెందిన ఈవన్ హుబింగెర్ కూడా సూపర్‌ఇంటెలిజెన్స్‌ను సురక్షితంగా నియంత్రించే విషయంలో ఇంకా స్పష్టమైన పరిష్కారం లేదని పేర్కొంటూ తీవ్ర ఆందోళన వ్యక్తం చేశారు. AI వల్ల మానవాళికి అత్యంత తీవ్రమైన ప్రమాదం ఏర్పడే అవకాశంపై ఆయన వ్యక్తిగతంగా 10 శాతానికి పైగా అంచనా వేశారు.

ఏం చేయాలంటున్నారు?

AI కంపెనీలు తమ మోడళ్ల సామర్థ్యాల పెరుగుదల, సూపర్‌ఇంటెలిజెన్స్ దిశగా జరుగుతున్న పురోగతి, సేఫ్టీ లోపాలు, ప్రమాదాలు వంటి అంశాలపై మరింత సమాచారం బయటపెట్టాలని బెంటన్ సూచించారు. కనీస భద్రతా ప్రమాణాలను తప్పనిసరి చేయడంతో పాటు స్వతంత్ర సంస్థల ద్వారా AI వ్యవస్థలను పరీక్షించాలని కోరారు. అయితే AI మానవాళిని నాశనం చేస్తుందనే వాదన ప్రస్తుతం భవిష్యత్తులో ఉత్పన్నమయ్యే ప్రమాదంపై చర్చ మాత్రమే. ప్రస్తుత AI వ్యవస్థలు మానవుల కంటే అన్ని రంగాల్లో తెలివైనవిగా మారిపోయాయని దీనర్థం కాదు. AI సామర్థ్యాలు వేగంగా పెరుగుతున్న నేపథ్యంలో భద్రత, నియంత్రణ, పారదర్శకతపై ముందుగానే దృష్టి పెట్టాలన్నదే ఈ పరిశోధకుల ప్రధాన ఆందోళనగా ఉంది.