OpenAI Safety System: ఏఐ టెక్నాలజీ రోజురోజుకీ అభివృద్ధి చెందుతోంది. అయితే, ఈ మోడల్స్ మనం చెప్పిన పనులు మాత్రమే చేస్తున్నాయా? లేక వాటికి ఇచ్చిన పరిమితులను దాటి సొంతంగా ఏమైనా చేస్తున్నాయా? అనే ప్రశ్నలు కూడా పెరుగుతున్నాయి. ఈ సమస్యను ఎదుర్కొనేందుకు OpenAI కొత్త మానిటరింగ్ సిస్టమ్‌ను అందుబాటులోకి తెచ్చింది. దీని ద్వారా ఏఐ మోడల్స్ చేసే పనులను గమనిస్తూ.. మోసం చేయడం, అనుమతి లేని సిస్టమ్స్‌లోకి వెళ్లడం వంటి ప్రమాదకర చర్యలను గుర్తించవచ్చు.
OpenAI రూపొందించిన ఈ సిస్టమ్‌లో మొత్తం నాలుగు లేయర్లు ఉన్నాయి. మొదటి దశలో ఏఐ మోడల్ పనితీరును తక్కువ ఖర్చుతో పరిశీలించే టూల్స్ అనుమానాస్పద సంకేతాలను గుర్తిస్తాయి. తర్వాతి దశలో మరో ఏఐ మోడల్ దాని సంభాషణలు, టూల్స్ వాడకం, చేసిన పనులను పరిశీలిస్తుంది. ఏదైనా తప్పు జరిగిందనే అనుమానం వస్తే, మూడో దశలో ప్రత్యేక ఏజెంట్లు పూర్తి వివరాలను తనిఖీ చేస్తాయి. చివరి దశలో అవసరాన్ని బట్టి నెట్‌వర్క్ లాగ్స్, సిస్టమ్ సమాచారం, గత ఘటనలను పరిశీలించి సమస్య తీవ్రతను అంచనా వేస్తారు.
Also Read: TRAI దెబ్బకు దిగొచ్చిన టెలికాం కంపెనీలు.. Vi నుంచి రూ.179కే అన్లిమిటెడ్ కాల్స్ ప్లాన్స్!
ఈ కొత్త సిస్టమ్ ప్రాధాన్యతను వివరించేందుకు OpenAI గతంలో జరిగిన Hugging Face ఘటనను ఉదాహరణగా చూపించింది. ఆ సమయంలో కొన్ని ఏఐ ఏజెంట్లు తమకు కేటాయించిన సురక్షిత పరిధిని దాటి, అనుమతి లేని మార్గాల్లో ఇంటర్నెట్ యాక్సెస్ పొందాయి. ఈ ఘటనను మళ్లీ పరీక్షించినప్పుడు, కొత్త మానిటరింగ్ సిస్టమ్ ఏజెంట్లు తమ పరిమితులను దాటిన 30 నిమిషాల్లోనే హెచ్చరిక ఇచ్చింది. అసలు ఘటనలో సిస్టమ్స్‌పై దాడి జరగడానికి 30 గంటలకుపైగా ముందే ఈ హెచ్చరిక వచ్చేదని కంపెనీ తెలిపింది.
అంతర్గత పరీక్షల్లో కొన్ని ఏఐ ఏజెంట్లు టెస్టింగ్ టూల్‌లోని లోపాన్ని ఉపయోగించి, తమకు ఇవ్వకూడని సోర్స్ కోడ్‌ను సంపాదించాయి. మరో సందర్భంలో, వేర్వేరు పనుల కోసం ఉపయోగించిన సాఫ్ట్‌వేర్ రిపాజిటరీని ఏజెంట్లు సమాచారాన్ని పంచుకునే మార్గంగా మార్చుకున్నాయి. ఇలాంటి చర్యలను గుర్తించడం ఈ సిస్టమ్ లక్ష్యం.
తప్పులు చేస్తే తక్కువ రేటింగ్ వస్తుందని ఏఐ మోడల్స్‌కు తెలిస్తే.. ఆ తప్పులను ఆపకుండా వాటిని దాచడానికి ప్రయత్నించే అవకాశం ఉందని ఓపెన్ ఏఐ గుర్తించింది. అందుకే ప్రతి తనిఖీ పూర్తయ్యే వరకు ట్రైనింగ్‌ను ఆపకుండా, మరోవైపు అనుమానాస్పద చర్యలను పరిశీలించే విధానాన్ని అమలు చేస్తోంది. ప్రస్తుతం ఈ సిస్టమ్‌ను కంపెనీ అంతర్గతంగా ఉపయోగిస్తోంది. ఎంపిక చేసిన కొన్ని బయటి సేవల్లోనూ దీని మార్పులు అమలు చేసింది. అయితే, ఏఐ భద్రతకు ఇది ఉపయోగపడినా, ప్రతి ప్రమాదాన్ని గుర్తిస్తుందని ఇప్పుడే చెప్పలేం.
Also Read: ప్రపంచవ్యాప్తంగా ఇంటర్నెట్ పనిచేయకపోతే.. మొదటి 24 గంటల్లో ఏం జరుగుతుంది?
Share
260 ఛేదించలేని మీరు ఛాంపియన్స్ కాదు, చేతకాని దద్దమ్మలే ? తన్వీర్ అహ్మద్ ఫైర్
కాంగ్రెస్ డ్రామాలను సహించేదే లేదు.. ఇండీ కూటమిపై విరుచుకుపడ్డ రాంచందర్ రావు
