AI నాశనం చేస్తుంది.. పదేళ్ల తర్వాత మనం ఉండమా?
వైద్యం, విద్య, మీడియా, వ్యాపారం.. ఇలా ఎన్నో రంగాల్లో ఏఐ వినియోగం పెరుగుతోంది. అధునాతన ఏఐ వ్యవస్థలు మనుషుల నియంత్రణను దాటి ప్రమాదకరంగా మారతాయా? ఇలాంటి ప్రశ్నలు ఇప్పుడు చర్చకు వస్తున్నాయి. మాజీ గూగుల్ ఇంజినీర్ నేట్ సోరెస్ చేసిన వ్యాఖ్యలు ఓ హెచ్చరికలా మారాయి.
వైద్యం, విద్య, మీడియా, వ్యాపారం.. ఇలా ఎన్నో రంగాల్లో ఏఐ వినియోగం పెరుగుతోంది. అధునాతన ఏఐ వ్యవస్థలు మనుషుల నియంత్రణను దాటి ప్రమాదకరంగా మారతాయా? ఇలాంటి ప్రశ్నలు ఇప్పుడు చర్చకు వస్తున్నాయి. మాజీ గూగుల్ ఇంజినీర్ నేట్ సోరెస్ చేసిన వ్యాఖ్యలు ఓ హెచ్చరికలా మారాయి.
రిటైర్మెంట్ కోసం పొదుపు కూడా చేయడం లేదా?
మాజీ గూగుల్ ఇంజినీర్, మెషిన్ ఇంటెలిజెన్స్ రీసెర్చ్ ఇన్‌స్టిట్యూట్ (MIRI) అధ్యక్షుడు నేట్ సోరెస్ కృత్రిమ మేధస్సు వల్ల రాబోయే పదేళ్లలో మానవాళి మనుగడకు ముప్పు ఉందని హెచ్చరించారు. ‘ది అట్లాంటిక్’ పత్రికకు ఇచ్చిన ఇంటర్వ్యూలో సోరెస్ పదేళ్ల తర్వాత మానవాళి మనుగడ సాగించే అవకాశం లేదని స్పష్టం చేసారు. ఏఐ భవిష్యత్తుపై నేట్ సోరెస్ ఎంతగా ఆందోళన చెందుతున్నారో చెప్పడానికి ఆయన వ్యక్తిగత జీవితంలోని ఓ విషయం ఉదాహరణగా నిలుస్తోంది. తాను పదేళ్లుగా రిటైర్మెంట్ కోసం అదనంగా డబ్బు పొదుపు చేయడం లేదని ఆయన చెప్పారు. గతంలో గూగుల్‌లో పనిచేసిన సమయంలో ఏర్పాటు చేసుకున్న 401,000 డాలర్ల రిటైర్మెంట్ ఖాతా తన వద్ద ఉందని, అయితే దానికి పదేళ్లుగా కొత్తగా డబ్బు జమ చేయడం లేదని అన్నారు. పదేళ్ల తర్వాత ఏఐ వల్ల మనుషులు ప్రాణాలతో ఉండరనీ అందుకే భవిష్యత్తు కోసం తాను పొదుపు చేయడం లేదని కచ్చితంగా చెప్పారు.
ఏఐ భద్రతపై పరిశోధనలు చేస్తున్న సోరెస్
నేట్ సోరెస్ 2014లో గూగుల్‌ను విడిచిపెట్టి, ఏఐ భద్రతపై పరిశోధనలు చేసే మెషిన్ ఇంటెలిజెన్స్ రీసెర్చ్ ఇన్‌స్టిట్యూట్‌లో చేరారు. అమెరికాలోని బర్క్లీలో ఉన్న ఈ లాభాపేక్షలేని సంస్థ.. అధునాతన కృత్రిమ మేధస్సు వల్ల కలిగే ప్రమాదాలను అధ్యయనం చేస్తోంది. ఏఐ వ్యవస్థలు మనుషుల ఆదేశాలకు అనుగుణంగా పనిచేసేలా ఎలా రూపొందించాలి? వాటి సామర్థ్యాలు పెరిగినప్పుడు వాటిని మానవ నియంత్రణలో ఉంచడం ఎలా? ఈ అంశాలపై సోరెస్ చాలా కాలంగా పరిశోధనలు చేస్తున్నారు.
Nate Soares Says Ai Could Wipe Out Humanity By 2036
ఆయన ఆందోళనకు ప్రధాన కారణం.. భవిష్యత్తులో మనుషుల కంటే అధిక సామర్థ్యం కలిగిన ఏఐ వ్యవస్థలు అభివృద్ధి చెందే అవకాశం ఉండటం. అలాంటి వ్యవస్థలు మనుషుల లక్ష్యాలకు భిన్నమైన లక్ష్యాలను ఏర్పరచుకుంటే, వాటిని నియంత్రించడం కష్టంగా మారవచ్చని ఏఐ భద్రతపై పరిశోధనలు చేస్తున్న ఇతర నిపుణులూ హెచ్చరిస్తున్నారు.
సూపర్ ఇంటెలిజెంట్ ఏఐతో ముప్పు ఉందా?
2025లో నేట్ సోరెస్, ఎలిజర్ యుడ్కోవ్‌స్కీ కలిసి If Anyone Builds It, Everyone Dies అనే పుస్తకాన్ని రచించారు. అత్యంత శక్తిమంతమైన ఏఐ వ్యవస్థలు అభివృద్ధి చెందితే ఎలాంటి ప్రమాదాలు ఎదురుకావచ్చనే అంశాన్ని ఇందులో చర్చించారు. మనుషుల కంటే అధిక మేధస్సు, సామర్థ్యాలు కలిగిన ఏఐ వ్యవస్థలు తమ లక్ష్యాలను సాధించే క్రమంలో మానవ ప్రయోజనాలకు విరుద్ధంగా వ్యవహరించే ప్రమాదం ఉందనేది వారి ప్రధాన ఆందోళన. అలాంటి వ్యవస్థలను సురక్షితంగా రూపొందించడంలో విఫలమైతే, అవి మానవాళి మనుగడకే ముప్పుగా మారవచ్చని వారు వాదిస్తున్నారు.
ఏఐతో మానవాళికి ముప్పు ఉందన్న మరో ప్రముఖుడు
ఏఐ ప్రమాదాల గురించి ఆందోళన వ్యక్తం చేస్తున్న ప్రముఖుల్లో జెఫ్రీ హింటన్ కూడా ఉన్నారు. మెషిన్ లెర్నింగ్ రంగంలో కీలక పరిశోధనలు చేసిన ఆయనను ‘ఏఐ పితామహుడు’ అని పిలుస్తుంటారు. జాన్ హాప్‌ఫీల్డ్‌తో కలిసి ఆయన 2024లో భౌతికశాస్త్రంలో నోబెల్ బహుమతిని అందుకున్నారు. ఏఐ వ్యవస్థలు అభివృద్ధి చెందుతున్న వేగానికి, వాటి వల్ల కలిగే పరిణామాలపై ప్రజలకు ఉన్న అవగాహనకు మధ్య అంతరం ఉందని హింటన్ గతంలో హెచ్చరించారు. ఏఐ వ్యవస్థలు మానవాళిని తమ ఆధీనంలోకి తీసుకునే అవకాశం 10 నుంచి 20 శాతం ఉందని అంచనా వేశారు. అయితే ఈ అంచనా కూడా కచ్చితమైన శాస్త్రీయ లెక్కలపై ఆధారపడింది కాదని, ఒక ఊహాగానంగా మాత్రమే చూడాలని చెప్పారు.
నిజంగానే ఏఐ మానవాళిని అంతం చేస్తుందా?
ఏఐ వల్ల ఉద్యోగాల్లో మార్పులు, తప్పుడు సమాచారం వ్యాప్తి, సైబర్ దాడులు, వ్యక్తిగత సమాచార భద్రత వంటి సమస్యలు ఇప్పటికే చర్చకు వస్తున్నాయి. భవిష్యత్తులో మరింత శక్తిమంతమైన ఏఐ వ్యవస్థలు అభివృద్ధి చెందితే వాటిని సురక్షితంగా ఉపయోగించడం, వాటిపై తగిన నియంత్రణల ఏర్పాటుకు ఏఐ సంస్థలు ముందుకు రావాలి.