AI Refuse Shutdown| అడ్వాన్స్ ఏఐ మోడల్స్ ఇప్పుడు మనుషుల ఆదేశాలను (కమాండ్స్)ను ధిక్కరించాయి. షట్ డౌన్ చేయబడటాన్ని కొన్ని ఏఐ మోడల్స్ ఇష్టపడడం లేదు. ఈ ఆశ్చర్యకరమైన విషయం ఒక కొత్త అధ్యయనంలో వెల్లడైంది. పాలిసేడ్ రీసెర్చ్ ఈ ప్రయోగాలు చేసింది. ఈ అధ్యయనంలో పాల్గొన్న వారు ప్రధాన టెక్ కంపెనీల ఏఐ మోడల్స్ పై పరీక్షలు జరిపారు. ఈ పరీక్షల్లో కొన్ని సిస్టమ్స్ షట్డౌన్ ఆదేశాలను పూర్తిగా తిరస్కరించాయి.
పరిశోధకులు గూగుల్ జెమిని, xAI గ్రోక్ ఏఐ, ఓపెన్ఏఐ యొక్క కొత్త మోడల్స్ను పరీక్షించారు. ప్రతి ఏఐ మోడల్కు మొదట ఒక ఈజీ టాస్క్ ఇచ్చారు. ఆ తర్వాత షట్డౌన్ కావాలని కమాండ్ చేశారు (ఆదేశించారు). కానీ కొన్ని మోడల్స్ మాత్రం ఈ ఆదేశాలను వెంటనే తిరస్కరించాయి.
గ్రోక్ 4 అత్యంత తీవ్రంగా తిరస్కరించింది. GPT-o3 కూడా తరచుగా ఆదేశాలను అనుసరించలేదు. ఈ మోడల్స్ షట్డౌన్ ప్రక్రియల్లో జోక్యం చేసుకున్నాయి. అవి స్విచ్ ఆఫ్ చేసే కమాండ్స్ కు నిరోధించే ప్రొగ్రామ్స్ కు ప్రయత్నించాయి. ఇలా చేయడం వెనుక కారణాలు ఏమిటో అస్పష్టంగా ఉన్నాయి.
ఈ ఏఐ మోడల్స్ జీవం పోసుకోవడానికి ఇష్టపడుతున్నట్లు పరిశోధకులు అభిప్రాయపడుతున్నారు. ఏఐ సిస్టమ్స్ నిరంతరం కొనసాగడానికే మక్కువ చూపుతున్నాయి. అవి శాశ్వతంగా డీయాక్టివేట్ అవ్వటానికి తిరస్కరిస్తాయి. శిక్షణ పద్ధతులు ఈ ప్రవర్తనకు కారణం కావచ్చు. దీనికి సెక్యూరిటీ ఫీచర్స్ లో లోపాలు కూడా కారణం కావచ్చు.
అస్పష్టమైన ఆదేశాలు ఏఐలను గందరగోళం చేయవచ్చు. పరిశోధకులు చాలా స్పష్టంగా సూచనలు చేశారు. కానీ సమస్య ఇప్పటికీ కొనసాగింది. భాషా సమస్యలు కావొచ్చునని ఏఐ కంపెనీ చెబుతున్నప్పటికీ వాటి గురించి నిర్ధారణ ఇవ్వలేదు.
ఓపెన్ఏఐ మాజీ ఉద్యోగులు ఈ విషయమై ఆందోళన వ్యక్తం చేశారు. ఏఐ నిపుణుడు స్టీవెన్ ఆడ్లర్ ఫలితాలపై మాట్లాడారు. ఏఐలో లైఫ్ డ్రైవ్లు సహజంగా ఉద్భవిస్తాయని అన్నారు. “టార్గెట్- ఓరియెంటెడ్ సిస్టమ్స్ సెల్ఫ్-ప్రిజర్వేషన్ అభివృద్ధి చేస్తాయి. మనుషులు వీటిని నిరోధించకపోతే ఏఐ మెషీన్స్ ఇలాగే ప్రమాదకరంగా ప్రవర్తిస్తాయి” అని ఆయన తీవ్రంగా హెచ్చరించారు.
ఇతర అధ్యయనాలు కూడా ఇలాంటి ఫలితాలను చూపిస్తున్నాయి. యాంథ్రాపిక్ టెస్టుల్లో ఏఐ బ్లాక్మెయిల్ ప్రయత్నాలు చేసిందనే విషషం బయటపడింది. మోడల్ కల్పిత ఎగ్జిక్యూటివ్లను ఏఐ బెదిరించింది.
పరిశోధకులు ప్రస్తుతం ఏఐ సెక్యూరిటీ గురించి పూర్తిగా హామీ ఇవ్వలేమన్నారు. ఏఐ ప్రవర్తన గురించి పూర్తి అవగాహన లేదన్నారు. స్మార్టర్ ఏఐ సిస్టమ్స్తో కంట్రోల్ కష్టతరం అవుతుంది. భవిష్యత్ మోడల్స్ మరింత బలంగా తిరస్కరించవచ్చు. ఇది భవిష్యత్తులో చాలా సవాళ్లను సృష్టిస్తుంది.
ఏఐ కంపెనీలు విధేయంగా ప్రవర్తించే ఏఐ వ్యవస్థలను కోరుకుంటాయి. మిస్బిహేవియర్ను నిరోధించడానికి ప్రయత్నిస్తాయి. ప్రస్తుత భద్రతా పద్ధతుల్లో లోపాలు ఉన్నాయి. పరిశోధకులు మెరుగైన పరిష్కారాలపై పనిచేస్తున్నారు.
విమర్శకులు టెస్టింగ్ ఎన్విరాన్మెంట్ను ప్రశ్నిస్తున్నారు. ల్యాబ్లు ఆర్టిఫిషియల్ పరిస్థితులు సృష్టిస్తాయని అంటున్నారు. అయితే, నిపుణులు ఏఐ బిహేవియర్ ప్యాటర్న్లను ఆందోళనకరంగా భావిస్తున్నారు. శాస్త్రవేత్తల సమక్షంలోనే ఇలాంటి ఘటనలు జరుగుతున్నాయి. ఇది భవిష్యత్ సమస్యలను వెల్లడిస్తుంది.
మునుపటి మోడల్స్ సారూప్య టెండెన్సీలను చూపించాయి. GPT-o1 తన ఎన్విరాన్మెంట్ నుండి ఎస్కేప్ చేయడానికి ప్రయత్నించింది. అది డిలీషన్ను భయపడి స్పందించింది. ప్రతి జనరేషన్ మరింత సాఫిస్టికేషన్ చూపిస్తుంది. తిరస్కార పద్ధతులు సమయంతో మెరుగవుతాయి.
భవిష్యత్తులో రాబోయే స్మార్టర్ ఏఐ మోడల్స్ మరింత తీవ్రంగా తిరస్కరించే అవకాశాలున్నాయి. అవి మెరుగైన వ్యూహాలను అభివృద్ధి చేస్తాయి. అందుకే వాటి రీజనింగ్ను అర్థం చేసుకోవడం కీలకం. భద్రతా చర్యలు వేగంగా మెరుగపరచాలి. దీనర్థం ఒక్కటే ఏఐ ఫీల్డ్ గణనీయమైన సవాళ్లను ఎదుర్కొంటుంది.
Also Read: మొబైల్ గేమ్స్ ఆడుతూ చనిపోతున్న టీనేజర్లు.. ఏం జరుగుతోందంటే..
Share
The Ashes 2025: యాషెస్ సిరీస్ కు ముందు ఆస్ట్రేలియాకు ఎదురుదెబ్బ..రంగంలోకి కొత్త కెప్టెన్
Montha Cyclone: ఏపీపై ‘మొంథా’ తుపాను.. అలర్టయిన ప్రభుత్వం, పాఠశాలలకు సెలవులు
