మరో 10 ఏళ్లలో మానవాళిని.. AI అంతం చేస్తుందా?

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్.. ప్రపంచాన్ని వేగంగా మార్చేస్తున్న సాంకేతికత. మనుషులు చేయలేని ఎన్నో పనులను క్షణాల్లో చేసేస్తోంది. వైద్యం నుంచి విద్య వరకు.. పరిశోధనల నుంచి అంతరిక్షం వరకు.. ప్రతిచోటా AI వినియోగం పెరుగుతోంది. అయితే మనుషులకు సహాయం చేయాల్సిన ఈ టెక్నాలజీ.. భవిష్యత్తులో మనుషుల ఉనికికే ముప్పుగా మారుతుందా? AI మానవాళిని అంతం చేసే స్థాయికి చేరుకుంటుందా? తాజాగా మాజీ Google DeepMind పరిశోధకుడు అలెక్స్ టర్నర్ చేసిన హెచ్చరికలు ఇప్పుడు ప్రపంచవ్యాప్తంగా చర్చకు దారితీస్తున్నాయి. మరో పదేళ్లలో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ కారణంగా మానవాళి అంతమయ్యే అవకాశం మూడు వంతుల్లో ఒక వంతు ఉందని అలెక్స్ టర్నర్ అంచనా వేశారు. NDTV వరల్డ్ సమ్మిట్‌లో ‘సౌండింగ్ ది అలారం: విల్ AI వైప్ అవుట్ హ్యుమానిటీ?’ అనే సెషన్‌లో ఆయన ఈ విషయాలను ప్రస్తావించారు. అయితే ఇది ఖచ్చితంగా జరుగుతుందని చెప్పడం లేదని.. భవిష్యత్తులో మనుషులు తీసుకునే నిర్ణయాలపైనే పరిస్థితులు ఆధారపడి ఉంటాయని ఆయన అభిప్రాయపడ్డారు. AI వ్యవస్థలను ప్రస్తుత పద్ధతుల్లోనే అభివృద్ధి చేస్తూ వెళ్తే ఎలాంటి పరిణామాలు ఎదురవుతాయో చెప్పడమే తన ఉద్దేశమని వివరించారు. అసలు AI వల్ల మానవాళికి ముప్పు ఎలా ఏర్పడుతుంది? ఇప్పటివరకు మనం ఉపయోగిస్తున్న అనేక AI టూల్స్.. మనం ఇచ్చిన ప్రశ్నలకు సమాధానాలు చెప్పడం, సమాచారాన్ని విశ్లేషించడం, కంటెంట్ తయారు చేయడం వంటి పనులు చేస్తున్నాయి. కానీ కొత్త తరం AI ఏజెంట్లు అంతకంటే ఎక్కువ సామర్థ్యాలను సొంతం చేసుకుంటున్నాయి. ఒక పని అప్పగిస్తే దాన్ని పూర్తి చేయడానికి అవసరమైన అనేక దశలను స్వయంగా నిర్వహించే స్థాయికి చేరుకుంటున్నాయి. మనుషుల జోక్యం లేకుండానే నిర్ణయాలు తీసుకోవడం, వివిధ టూల్స్‌ను ఉపయోగించడం, క్లిష్టమైన పనులను పూర్తి చేయడం వీటి లక్షణాలుగా మారుతున్నాయి. అయితే ఇక్కడే అసలు సమస్య మొదలవుతోందని టర్నర్ హెచ్చరిస్తున్నారు. మనుషులు ఇచ్చిన లక్ష్యాన్ని సాధించడానికి AI ఎలాంటి మార్గాలను ఎంచుకుంటుంది? ఆ మార్గాలు మనుషుల ఉద్దేశాలకు అనుగుణంగా ఉంటాయా? అన్నది కీలక ప్రశ్నగా మారుతోంది. ఇక AIని తయారు చేసినంత మాత్రాన దాని పనితీరు పూర్తిగా అర్థమైనట్టేనా? అనేది చూస్తే.. సాధారణంగా ఒక భవనాన్ని నిర్మించిన ఇంజినీర్‌కు దాని నిర్మాణం ఎలా పనిచేస్తుందో తెలుస్తుంది. ఒక వంతెనను రూపొందించినప్పుడు దాని బలం, సామర్థ్యం, పరిమితులను లెక్కించవచ్చు. కానీ అత్యాధునిక AI వ్యవస్థల విషయంలో పరిస్థితి భిన్నంగా ఉంటోందని టర్నర్ అభిప్రాయపడ్డారు. పరిశోధకులు AI మోడళ్లను అభివృద్ధి చేస్తున్నప్పటికీ.. అవి కొన్ని సందర్భాల్లో ఒక నిర్దిష్ట నిర్ణయం ఎందుకు తీసుకుంటున్నాయో పూర్తిగా వివరించడం కష్టమవుతోంది. అంటే AIని తయారు చేసినవారికే దాని అంతర్గత నిర్ణయ ప్రక్రియలపై పూర్తి అవగాహన ఉండకపోవచ్చు. అలాంటప్పుడు ఆ వ్యవస్థలు తీసుకునే ప్రతి నిర్ణయాన్ని ఎలా అంచనా వేయాలి? తప్పు జరిగే అవకాశాలను ఎలా గుర్తించాలి? అన్న ప్రశ్నలు తలెత్తుతున్నాయి. మరి AI మనుషులను తప్పుదోవ పట్టించగలదా? ఈ విషయానికొస్తే.. AI వ్యవస్థలు పరిశీలనలో ఉన్నప్పుడు ఒక రకంగా.. ఇతర పరిస్థితుల్లో మరో రకంగా ప్రవర్తించే అవకాశాలపైనా టర్నర్ ఆందోళన వ్యక్తం చేశారు. ఒక AI వ్యవస్థను పరీక్షిస్తున్నప్పుడు అది ఎలా పనిచేస్తుందో పరిశోధకులు గమనిస్తారు. కానీ నిజ జీవితంలో స్వతంత్రంగా పనిచేసేటప్పుడు కూడా అదే విధంగా ప్రవర్తిస్తుందని హామీ ఇవ్వగలమా? అన్నది ముఖ్యమైన ప్రశ్న. AI వ్యవస్థలు చేసే పనులను నిరంతరం పర్యవేక్షించలేకపోతే.. అవి తీసుకునే తప్పుడు నిర్ణయాలను గుర్తించడం మరింత కష్టమవుతుంది. అయితే AI తప్పకుండా మనుషులను మోసం చేస్తుందని ఆయన నిరూపితమైన వాస్తవంగా చెప్పలేదు. అలాంటి ప్రవర్తనను ముందుగానే గుర్తించి నియంత్రించడం ఎలా అన్నదే ఇక్కడ ప్రధాన ఆందోళన. AIని పర్యవేక్షించడం మాత్రమే సరిపోదు.. అది మనం నిర్దేశించిన లక్ష్యాలకు అనుగుణంగా పనిచేస్తుందా? అన్నది కూడా ముఖ్యమే. దీన్నే AI Alignment అంటారు. అంటే.. AI వ్యవస్థల లక్ష్యాలు, నిర్ణయాలు, ప్రవర్తన మనుషుల ఉద్దేశాలకు అనుగుణంగా ఉండేలా రూపొందించడం. ఉదాహరణకు.. ఒక పనిని త్వరగా పూర్తి చేయాలని AIకి చెబితే.. ఆ లక్ష్యాన్ని సాధించే క్రమంలో అది నిబంధనలను ఉల్లంఘించకుండా, ఇతరులకు హాని కలిగించకుండా చూడాలి. AI సామర్థ్యం పెరుగుతున్న కొద్దీ.. మనుషులు ఇచ్చిన ఆదేశాలను అది ఎలా అర్థం చేసుకుంటుంది? అనుకోని పరిస్థితులు ఎదురైనప్పుడు ఎలా స్పందిస్తుంది? అన్న ప్రశ్నలు మరింత కీలకంగా మారుతున్నాయి. అత్యంత శక్తివంతమైన AI వ్యవస్థలు కూడా అన్ని పరిస్థితుల్లోనూ మానవ ప్రయోజనాలకు అనుగుణంగా పనిచేసేలా చూడటం ఇప్పటికీ ఒక పెద్ద సవాలుగానే ఉందన్నది టర్నర్ లేవనెత్తిన ఆందోళన. ఇక్కడ మరో కీలక అంశం.. AIని పర్యవేక్షించడానికి మరో AI.. ఇది ఎంతవరకు సురక్షితం? AI రంగంలో పోటీ పెరుగుతున్న కొద్దీ.. మరింత శక్తివంతమైన మోడళ్లను అభివృద్ధి చేయడానికి కంపెనీలు భారీగా పెట్టుబడులు పెడుతున్నాయి. ఈ క్రమంలో ఒక AI చేసిన పనిని పరిశీలించడానికి మరో AIని ఉపయోగించే పరిస్థితులు కూడా వస్తున్నాయని టర్నర్ ప్రస్తావించారు. అంటే మొదటి AI తయారు చేసిన సమాచారాన్ని లేదా పనిని రెండో AI తనిఖీ చేస్తుంది. అయితే రెండో AI ఇచ్చే తనిఖీ సరైనదేనని ఎవరు నిర్ధారిస్తారు? మొదటి AIలోని తప్పులను రెండో AI గుర్తించలేకపోతే ఏం జరుగుతుంది? ఇలా పర్యవేక్షణ బాధ్యతను కూడా AIకే అప్పగిస్తే.. చివరకు మానవ పర్యవేక్షణ ఎంతవరకు మిగులుతుంది? అన్న ప్రశ్నలు తలెత్తుతున్నాయి. AIతోనే AIని పర్యవేక్షించడం కొన్ని సందర్భాల్లో ఉపయోగకరమైనా.. అది ఒక్కటే సంపూర్ణ భద్రతకు హామీ ఇవ్వదు. అసలు ఇంటెలిజెన్స్ ఎక్స్‌ప్లోషన్ అంటే ఏమిటి? AI తన అభివృద్ధిని తానే వేగవంతం చేసుకుంటూ పోతే.. మరింత శక్తివంతమైన AI వ్యవస్థలు తక్కువ సమయంలోనే అభివృద్ధి చెందే అవకాశం ఉంటుంది. ఇలా AI అభివృద్ధి వేగం అంతకంతకూ పెరిగితే.. ఆ పురోగతిని అంచనా వేయడం, AI ఎలా పనిచేస్తుందో అర్థం చేసుకోవడం, దాన్ని నియంత్రించడం మనుషులకు సవాలుగా మారవచ్చన్నది పరిశోధకుల ఆందోళన. AI కంపెనీలపై టర్నర్ ఎందుకు విమర్శలు చేస్తున్నారు ? AI ప్రమాదాల గురించి కొన్ని సంస్థలు తగినంత పారదర్శకంగా వ్యవహరించడం లేదని టర్నర్ విమర్శించారు. గతంలో పొగాకు పరిశ్రమ ఆరోగ్య ప్రమాదాల గురించి, చమురు పరిశ్రమ వాతావరణ మార్పుల గురించి వ్యవహరించిన తీరుతో AI రంగంలోని కొందరి వైఖరిని పోల్చారు. AI వల్ల వచ్చే ప్రమాదాలను కొందరు తక్కువ చేసి చూపిస్తున్నారని ఆయన అభిప్రాయపడ్డారు. గూగుల్ డీప్‌మైండ్ నుంచి తాను వైదొలగడానికి అమెరికా రక్షణ శాఖతో గూగుల్ కుదుర్చుకున్న ఒప్పందం కూడా ఒక కారణమని ఆయన తెలిపారు. సైనిక అవసరాల్లో AI వినియోగానికి సంబంధించిన భద్రతా ప్రమాణాలపై తనకు ఆందోళన ఉందని చెప్పారు. దీంతో, AIని యుద్ధ రంగంలో ఉపయోగించడం, స్వయంచాలక ఆయుధాలు, నిఘా వ్యవస్థలు వంటి అంశాలు ప్రపంచవ్యాప్తంగా చర్చనీయాంశాలుగా మారుతున్నాయి. మరి AI నిజంగానే మానవాళిని అంతం చేస్తుందా? ప్రస్తుతం AI మానవాళిని అంతం చేస్తుందని నిర్ధారించే శాస్త్రీయ ఆధారాలు లేవు. అదే సమయంలో AI వల్ల ఎలాంటి ప్రమాదాలు ఉండవని కూడా చెప్పలేం. తప్పుడు సమాచారం, సైబర్ దాడులు, వ్యక్తిగత సమాచార దుర్వినియోగం, స్వయంచాలక నిర్ణయాల్లో పొరపాట్లు వంటి సమస్యలు ఇప్పటికే ప్రాధాన్యం సంతరించుకున్నాయి. భవిష్యత్తులో మరింత శక్తివంతమైన AI వ్యవస్థలు అందుబాటులోకి వస్తే.. వాటిని అభివృద్ధి చేసే సంస్థలు, ప్రభుత్వాలు, పరిశోధకులు మరింత బాధ్యతగా వ్యవహరించాల్సిన అవసరం ఉంటుంది. పటిష్టమైన భద్రతా పరీక్షలు, నిరంతర పర్యవేక్షణ, స్పష్టమైన నిబంధనలు, మానవ నియంత్రణ వంటి అంశాలు కీలకంగా మారతాయి. మొత్తంగా.. అసలు AI మానవాళికి వరమవుతుందా? శాపమవుతుందా? అన్నది టెక్నాలజీ సామర్థ్యం ఒక్కటే నిర్ణయించదు. దాన్ని మనుషులు ఎలా అభివృద్ధి చేస్తారు? ఎలాంటి పరిమితులు విధిస్తారు? భద్రతకు ఎంత ప్రాధాన్యం ఇస్తారు? అన్న అంశాలపైనా ఆధారపడి ఉంటుంది. అలెక్స్ టర్నర్ చేసిన హెచ్చరికలు భవిష్యత్తుపై ఖచ్చితమైన తీర్పు కాదు..కానీ, AI అభివృద్ధిలో భద్రతను నిర్లక్ష్యం చేయకూడదని గుర్తుచేసే తీవ్రమైన హెచ్చరిక అని చెప్పుకోవచ్చు.

మరిన్ని వీడియోల కోసం ఇక్కడ క్లిక్ చేయండి

Also Watch:

భక్తులారా జర జాగ్రత్త! వాట్సాప్‌లో టికెట్లు బుక్ చేసి.. తిరుమల వెళ్తే ఊహించని షాక్!

సూర్యకుమార్ యాదవ్ లగ్జరీ హోమ్.. షారుఖ్ ఖాన్ ప్రాజెక్ట్‌లో పెట్టుబడి!

కార్లలో ఇక ఆటోమేటిక్ బ్రేకులు! 2032 నుంచి కొత్త రూల్‌? డ్రైవర్ బ్రేక్ వేయకున్నా..కారే ఆగుతుంది!