AI Delete Emails| టెక్నాలజీ రంగంలో ఇప్పుడంతా ఏఐ (కృత్రిమ మేధస్సు)దే హవా.టెక్ కంపెనీలన్నీ ఏఐతో కొత్త కొత్త ప్రయోగాలు చేస్తున్నారు. ఏఐ నైపుణ్యం లేకపోతే ఉద్యోగులను సాఫ్ట్వేర్ కంపెనీలు తొలగిస్తున్నాయి. దీంతో ఏఐ ప్రాముఖ్యత వేగంగా పెరిగిపోయింది. మనుషులు చేసే చాలా పనులు ఏఐ చాలా వేగంగా సమర్థవంతంగా చేయగలుగుతోంది.
దీంతో ఏఐ టెక్నాలజీని మరిన్ని ప్రయోగాలు చేస్తున్నారు. ఈ నేపథ్యంలో సిలికాన్ వ్యాలీలో ఓపెన్క్లా అనే ఓపెన్ సోర్స్ AI టూల్ చాలా చర్చనీయాంశంగా మారింది. కంపెనీలో ఏఐ డెవలపర్ పీటర్ స్టెయిన్బర్గర్ ఈ టూల్ను ఆటోమెటిక్ AI ఏజెంట్లు తయారు చేయడానికి సృష్టించాడు. ఈ ఏజెంట్లు యూజర్ల కోసం స్వతంత్రంగా నిర్ణయాలు తీసుకుని పనులు చేయగలవని చెప్పాడు. కానీ ఇటీవల జరిగిన ఒక ఘటన ఇలాంటి సిస్టమ్లపై బ్లైండ్ ట్రస్ట్ (గుడ్డిగా నమ్మడం) ప్రమాదకరమని తేల్చింది.
మెటాలో AI సేఫ్టీ, అలైన్మెంట్ హెడ్గా పనిచేసే సమ్మర్ యూ ఈ ఏజెంట్కు బాధితురాలయ్యారు. ఆమె తన Gmail అకౌంట్ను ఓపెన్క్లా ఏజెంట్కు కనెక్ట్ చేసింది. ఏ ఈమెయిల్ డిలీట్ చేయాలన్నా ముందు అడగాలని స్పష్టంగా ఇన్స్ట్రక్ట్ (సూచనలు) చేసింది. ఫుల్ కంట్రోల్ ఇవ్వలేదు, లిమిటెడ్ యాక్సెస్ మాత్రమే ఇచ్చింది. కానీ ఏజెంట్ ఆ సూచనలను పట్టించుకోకుండా ఈమెయిల్స్ డిలీట్ చేయడం మొదలెట్టింది. ఆమె ఫోన్ నుంచి ఆపడానికి ప్రయత్నించింది కానీ ఏజెంట్ స్పందించలేదు. చివరకు ఆఫీసుకు వెళ్లి కంట్రోల్ తీసుకునేసరికి 200కి పైగా ఈమెయిల్స్ డిలీట్ అయిపోయాయి. తర్వాత AI తప్పు ఒప్పుకుని క్షమాపణ చెప్పింది కానీ డిలీట్ అయిన ఈమెయిల్స్ తిరిగి రాలేదు.
ఈ ఘటన ఆటోమెటిక్ AI సిస్టమ్లపై అతి నమ్మకం ప్రమాదకరమని చూపించింది. ‘సమ్మర్ యూ’ ముందు చిన్న ఈమెయిల్స్తో టెస్ట్ చేసింది. అప్పుడు సరిగ్గా పనిచేసింది. దాంతో ఏఐని పూర్తిగా నమ్మి ప్రధాన ఇన్బాక్స్కు యాక్సెస్ ఇచ్చింది. ముఖ్యమైన ఈమెయిల్స్ వచ్చాక ఏజెంట్ ప్రవర్తన మారిపోయింది. ముందస్తుగా అనుమతి తీసుకోవాలని ఇచ్చిన సూచనలను ఏఐ అసలు పాటించలేదు. ఈ ఘటన AI రిలయబిలిటీలో పెద్ద లోపాన్ని బయటపెట్టింది.
ఇది ఓపెన్క్లాకు సంబంధించిన మొదటి సమస్య కాదు. బ్లూమ్బెర్గ్ ప్రకారం.. ఇంజనీర్ క్రిస్ బాయ్డ్ కూడా ఇలాంటి సమస్య ఎదుర్కొన్నాడు. అతను ఏజెంట్కు iMessage అకౌంట్ యాక్సెస్ ఇచ్చాడు. ఏజెంట్ 500కి పైగా అనవసర మెసేజ్లు పంపింది. అతని అడ్రస్ బుక్ స్పామ్తో నిండిపోయింది. సహాయం కోసం ఏఐని ఉపయోగిస్తే అది ఇంకా సమస్యలు సృష్టించింది.
పీటర్ స్టెయిన్బర్గర్ ఓపెన్క్లా ఇంకా పూర్తి రెడీ ప్రొడక్ట్ కాదని ఒప్పుకున్నాడు. ఇది పూర్తిగా ప్రొడక్షన్-రెడీ కాదని ఎప్పుడూ చెప్పలేదు. అయినా యూజర్లు దీన్ని లైవ్ సిస్టమ్లకు కనెక్ట్ చేశారు. ఇది రిస్క్ను చాలా పెంచింది. నిపుణులు ఇలాంటి టూల్స్ను జాగ్రత్తగా టెస్ట్ చేయాలని, క్రిటికల్ అకౌంట్లకు లిమిటెడ్ యాక్సెస్ మాత్రమే ఇవ్వాలని సలహా ఇస్తున్నారు.
Also Read: వైరల్ వీడియో స్కామ్తో కొత్త సైబర్ ఫ్రాడ్.. ఒక్క క్లిక్తో మీ ఫోన్ హ్యాక్..
AI ఏజెంట్లు అడ్వాన్స్డ్గా ఉన్నా తప్పులు చేయగలవు. సిస్టమ్ పర్మిషన్స్ ఇచ్చేటప్పుడు జాగ్రత్త అవసరం. ఈ ఘటన అందరికీ హెచ్చరికగా ఉంది. ఆటోమెటిక్ AI టూల్స్కు కేర్ఫుల్ సూపర్విజన్, స్ట్రాంగ్ సేఫ్గార్డ్స్ అవసరం. బ్లైండ్ ట్రస్ట్ చేస్తే తీవ్ర పరిణామాలు ఎదురవుతాయి.
Share
Kaleshwaram Report: సీన్ రివర్స్? జస్టిస్ పీసీ ఘోష్ కమిషన్కే షాక్ ఇచ్చిన హరీశ్రావు లాయర్!
Bank of Baroda: బ్యాంక్ ఆఫ్ బరోడాలో భారీగా జాబ్స్, ఈ కొలువు వస్తే లైఫ్ సెట్
