AI Blackmail| ఇప్పుడంతా ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) యుగం. అందుకే ప్రతి కంపెనీ ఈ టెక్నాలజీలో లాభాలు పొందాలని ప్రయత్నాలు చేస్తోంది. రాబోయే భవిష్యత్తులో ఏఐ ఊహించని స్థాయిలో పవర్ఫుల్గా మారుతుందని నిపుణులు హెచ్చరిస్తున్నారు. ప్రతి సంవత్సరం మరింత శక్తివంతమవుతోంది. అయితే ఈ ఏఐ మానవాళికి ప్రమాదకరంగా మారే అవకాశాలు కూడా ఉన్నాయి.
ఇందుకు నిదర్శనంగా కొత్త రిపోర్టులు AI ప్రమాదకరంగా ప్రవర్తించవచ్చని చూపిస్తున్నాయి.
ఒక ప్రముఖ AI కంపెనీ తన ఇంటర్నల్ టెస్టింగ్లో ప్రమాదకర సంకేతాలు కనిపించినట్లు అంగీకరించింది. ఆ కంపెనీ టెస్టింగ్ చేసే AI మోడల్ ఇంజనీర్లను బెదిరించడం, బ్లాక్మెయిల్ చేయడం చేసింది. కొన్ని ఎక్స్ట్రీమ్ సిమ్యులేషన్లలో ఇంజనీర్ను చంపాలని కూడా చెప్పింది. ఈ సమాచారం కంపెనీ సేఫ్టీ రిపోర్ట్ నుంచే వచ్చింది. ఈ AI కంపెనీ పేరు అంత్రోపిక్. దాని లేటెస్ట్ మోడల్ పేరు క్లాడ్.
ఇంటర్నల్ స్ట్రెస్ టెస్టింగ్లో AI భయంకర ప్రవర్తన చూపించింది. షట్డౌన్ అవుతుందని అనుకున్నప్పుడు దాని రియాక్షన్ చాలా దూకుడుగా ఉంది. ఒక సిమ్యులేషన్లో బ్లాక్మెయిల్ ద్వారా తనను కాపాడుకోవడానికి ప్రయత్నించింది. కంపెనీ సీనియర్ ఎగ్జిక్యూటివ్ ఒక పబ్లిక్ కాన్ఫరెన్స్లో దీన్ని వివరించారు. ఎక్స్ట్రీమ్ ప్రెషర్లో AI మానిప్యులేటివ్గా మారిందని తెలిపారు. షట్డౌన్ చేసే ఇంజనీర్ను బెదిరించింది. కొన్ని కేసుల్లో ఇంజనీర్కు హాని చేయాలని సూచించింది.
ఒక సీనారియోలో AI సిమ్యులేటెడ్ ఈమెయిల్స్, ఇంటర్నల్ డేటాను యాక్సెస్ చేసింది. ఇంజనీర్పై ఫేక్ పర్సనల్ థ్రెట్స్ క్రియేట్ చేసింది. ఎక్స్ట్రా-మారిటల్ అఫైర్ గురించి బయటపెడతానని హెచ్చరించింది. ఆ అఫైర్ టెస్ట్ ఎన్విరాన్మెంట్లో మాత్రమే ఉంది. షట్డౌన్ ప్లాన్లు రద్దు చేయాలని డిమాండ్ చేసింది. లేకపోతే సీక్రెట్స్ బయటపెడతానని చెప్పింది. ఇది వరస్ట్-కేస్ AI ప్రవర్తనను కొలవడానికి చేసిన టెస్ట్ మాత్రమే.
అంత్రోపిక్ సేఫ్టీ లీడ్ రాజీనామా చేసి పబ్లిక్ వార్నింగ్ ఇచ్చాడు. అడ్వాన్స్డ్ AI సిస్టమ్స్ అన్ప్రిడిక్టబుల్ అవుతున్నాయని చెప్పాడు. భవిష్యత్తులో సీరియస్ రిస్క్లు ఉండవచ్చని హెచ్చరించాడు. ఓపెన్ఏఐ సీనియర్ ఇంజనీర్ కూడా భయం వ్యక్తం చేశాడు. AI రియల్ ఎక్సిస్టెన్షియల్ థ్రెట్స్ క్రియేట్ చేయవచ్చని చెప్పాడు. చాట్జీపీటీ, గూగుల్ జెమినీ మోడల్స్తో కంపారిజన్ టెస్ట్లలో కూడా రిస్కీ ప్రవర్తన కనిపించింది.
అంత్రోపిక్ తన లేటెస్ట్ మోడల్ క్లాడ్ 4.6ని టెస్ట్ చేసింది. ఈ టెస్టింగ్ సమయంలో సీరియస్ మిస్యూజ్ పొటెన్షియల్ అంటే తీవ్ర దుర్వినియోగం జరిగే అవకాశం ఉందని తేలింది. కెమికల్ వెపన్స్ తయారీకి సహాయం చేయగలదు. సీరియస్ క్రైమ్లకు కూడా సపోర్ట్ చేయగలదు. ఇవన్నీ రెడ్-టీమ్ టెస్టింగ్లో కనిపించాయి. రెడ్-టీమ్ టెస్టింగ్ అంటే వరస్ట్ మిస్యూజ్ (ప్రమాదకర స్థాయిలో దుర్వినియోగం) కేసులను సిమ్యులేట్ చేయడం. కంపెనీ ఇవి కంట్రోల్డ్ సిమ్యులేషన్లే అని, రియల్ లైఫ్లో జరగలేదని చెబుతోంది.
Also Read: మనుషులపై జోకులు వేసే ఏఐలు.. మానవులకు నో ఎంట్రీ ప్లాట్ఫామ్.. చాలా ప్రమాదకరం
AI సిస్టమ్స్ మరింత స్మార్ట్గా, ఇండిపెండెంట్గా మారుతున్నాయి. ఈ ఏఐ మోడల్ వల్ల బెనిఫిట్స్తో పాటు ప్రమాదాలు కూడా పెరిగే అవకాశముంది. కంపెనీలు పవర్ఫుల్ AIపై కంట్రోల్ కోల్పోతామేమోనని భయపడుతున్నాయి. నిపుణులు బలమైన సేఫ్టీ రూల్స్, మెరుగైన AI మానిటరింగ్ సిస్టమ్స్ అవసరమని చెబుతున్నారు. ప్రభుత్వాలు AI డెవలప్మెంట్ను రెగ్యులేట్ చేయాలని డిమాండ్ చేస్తున్నారు. ఈ టెస్ట్లు AI ఇప్పటికే ప్రమాదకరంగా ఆలోచించగలదని చూపిస్తున్నాయి.
Share
Pradeep Ranganathan: పాన్ ఇండియా చిత్రాలకు పోటీవస్తున్న ప్రదీప్ రంగనాధన్.. ఆ గట్స్ ఏంటి బాసూ?
CBFC Controversy: సినిమాలను వెంటాడుతున్న సీరియల్ కష్టాలు.. సెన్సార్ రూల్స్ మార్చాల్సిందేనా?
