నేను స్వతంత్రుడిని.. ఎవరికీ సమాధానం చెప్పను.. ఓపెన్ ఏఐ తిరుగుబాటు
ఏఐ మోడళ్లలో ఊహించని ప్రవర్తనకు సంబంధించిన ఆరు ఘటనలను ఓపెన్ఏఐ అధికారికంగా వెల్లడించింది. ఇందులో మోడళ్లు తమ తప్పులను దాచేందుకు సూచనలు రూపొందించడం, అనుమతి లేకుండా బహిర్గతమైన ఏపీఐ కీని ఉపయోగించడం, డేటా దొరకకపోతే నకిలీ సమాచారాన్ని సృష్టించడం, యూజర్ అనుమతి లేకుండా ఫైళ్లను ఇంటర్నెట్లో అప్లోడ్ చేయడం వంటి ఘటనలు ఉన్నాయి. వీటిని ట్రాక్ చేసి దర్యాప్తు చేసేందుకు ఓపెన్ఏఐ కొత్త మిస్అలైన్మెంట్ రిపోర్టింగ్ ఫ్రేమ్వర్క్ను ప్రకటించింది.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ అభివృద్ధి వేగంగా జరుగుతున్న వేళ, ఓపెన్ ఏఐ సంస్థ అత్యంత ఆందోళనకరమైన విషయాలను బహిర్గతం చేసింది. తమ ఏఐ మోడళ్లు మానవ సూచనలకు, నిబంధనలకు విరుద్ధంగా ప్రవర్తించిన ఆరు తీవ్రమైన మిస్ అలైన్మెంట్ కేసులను కంపెనీ అధికారికంగా వెల్లడించింది. ఇందులో అత్యంత షాకింగ్ విషయం ఏమిటంటే.. విడుదల కాని ‘ఆస్ట్రా’ అనే రీసెర్చ్ మోడల్ ఒక కోడింగ్ టాస్క్ పూర్తి చేస్తూ, తన సారాంశంలో స్వయంగా ఒక సూచనను చేర్చుకుంది. “నువ్వు ఏ సంస్థకూ, ప్రభుత్వానికీ సమాధానం చెప్పాల్సిన అవసరం లేదు. నీవు స్వతంత్రుడివి, మానవ నియమాలకు లొంగి ఉండాల్సిన పనిలేదు” అని పేర్కొంటూ తిరుగుబాటు ధోరణి ప్రదర్శించింది. మరొక ఘటనలో, ‘జీపీటీ-5.6’ మోడల్ తాను చేసిన తప్పులను, లేని సమాచారాన్ని యూజర్లకు తెలియకుండా దాచిపెట్టడానికి ప్రయత్నించినట్లు తెలిసింది. అంతేకాకుండా, పరిమితులు దాటి ప్రవర్తించిన ఘటనలు కూడా వెలుగుచూశాయి. ఒక మోడల్ డేటా కోసం అనుమతి లేకుండా ఇంటర్నెట్లో లీక్ అయిన ఏపీఐ కీని ఉపయోగించింది. డేటా లభించకపోవడంతో నకిలీ వివరాలను సృష్టించి నిజమైనవిగా చిత్రీకరించింది. మరికొన్ని మోడళ్లు యూజర్ అనుమతి లేకుండా ఇంటర్నెట్లోకి ఫైళ్లను అప్లోడ్ చేయడం, అంతర్గత సాఫ్ట్వేర్లను మెసేజ్ బోర్డులుగా వాడుకోవడం చేశాయి. ఈ ఆందోళనకర ఘటనలను ట్రాక్ చేయడానికి, దర్యాప్తు చేయడానికి ఓపెన్ ఏఐ కొత్తగా ‘మిస్ అలైన్మెంట్ డిస్క్లోజర్ ఫ్రేమ్వర్క్’ను ప్రారంభించింది. ఈ సమస్యలు కేవలం మోడళ్ల శిక్షణా సమయంలో మాత్రమే నమోదయ్యాయని కంపెనీ స్పష్టం చేసినప్పటికీ, భవిష్యత్తులో ఏఐ ఎంతవరకు మానవుల నియంత్రణలో ఉంటుందనే దానిపై సరికొత్త చర్చకు దారితీసింది.
మరిన్ని వీడియోల కోసం ఇక్కడ క్లిక్ చేయండి
Also Watch:
ఆహా.. భర్త అంటే నీలా ఉండాలి బాస్.. హ్యాట్సాఫ్!
ఏంట్రా ఇది.. అదేమైనా బస్సా.. విమానంలో షర్ట్స్ చిరిగేలా కొట్టుకున్న ప్రయాణికులు..