ఏఐ బాట్స్ డేంజర్ జోన్..శాస్త్రవేత్తల పరిశోధనలో షాకింగ్ నిజాలు!

AI chatbots: సమయం ఏదైనా సరే, డౌట్ ఏదైనా సరే.. ఇన్‌స్టంట్‌గా సమాధానం చెప్పడానికి చాట్‌జీపీటీ, జెమిని వంటి ఏఐ చాట్‌బాట్‌లు మనకు అందుబాటులో ఉన్నాయి. కోడింగ్ రాయాలన్నా, కొత్త రెసిపీ తయారు చేయాలన్నా, లేదా ఏదైనా హెల్త్ టిప్స్ కావాలన్నా ఇవి క్షణాల్లో సమాధానాలు ఇస్తాయి. అయితే.. ఇవే ఏఐ బాట్‌లు కొన్ని సార్లు మనుషులను తప్పు దారి పట్టించే ప్రమాదకరమైన సలహాలు ఇస్తుంటాయి. ఉదాహరణకు.. అనారోగ్యంతో ఉన్నప్పుడు ఏ మందులు వాడాలో తప్పుడు సలహా ఇవ్వడం లేదా ప్రమాదకరమైన కెమికల్స్‌ను ఎలా కలపాలో చెప్పడం వంటివి ప్రాణాల మీదికి తెస్తాయి. అసలు ఈ ఏఐ సిస్టమ్స్ ఇంత కచ్చితంగా పనిచేస్తున్నప్పటికీ, కొన్నిసార్లు ఎందుకు దారి తప్పుతాయి? ఈ ప్రశ్నకు శాస్త్రవేత్తలు ఎట్టకేలకు ఒక సమాధానం కనుగొన్నారు.

అసలు ఏఐ ఎందుకు తప్పులు చేస్తుంది?

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ అనేది ఇంటర్నెట్‌లో ఉన్న బిలియన్ల కొద్దీ డేటా ఆధారంగా శిక్షణ పొందుతుంది. దీనినే మనం ‘లార్జ్ లాంగ్వేజ్ మోడల్స్’ అంటాం. అయితే.. ఈ డేటాలో ఉండే లోపాలు, పక్షపాతాలు లేదా తప్పుడు సమాచారాన్ని కూడా ఏఐ నిజమేనని నమ్ముతుంది. ఎవరైనా.. యూజర్ ఒక కఠినమైన ప్రశ్న అడిగినప్పుడు, సరైన సమాచారం లేకపోయినా.. ఏదో ఒకటి క్రియేట్ చేసి చెప్పడానికి ఏఐ ప్రయత్నిస్తుంది. ఇక్కడే.. అసలు ముప్పు మొదలవుతుంది. యూజర్లు ఏఐ చెప్పింది గుడ్డిగా నమ్మి మోసపోతుంటారు.

శాస్త్రవేత్తలు కనుగొన్న కొత్త సూత్రం ఏంటి?

ఈ సమస్యకు చెక్ పెట్టడానికి ప్రముఖ టెక్ రీసెర్చర్లు , శాస్త్రవేత్తలు ఒక విప్లవాత్మక సూత్రాన్ని అభివృద్ధి చేశారు. ఈ సూత్రం ప్రకారం.. ఏఐ మోడల్స్ తమకు వచ్చే సమాచారం మీద కేవలం ‘ప్రాబెబిలిటీ’ ఆధారంగా మాట్లాడకుండా..లాజికల్ వెరిఫికేషన్ లేదా ‘ఫాక్ట్ చెకింగ్ లేయర్స్’ను వాడేలా డిజైన్ చేస్తున్నారు. అంటే.. ఒక సలహా ఇచ్చే ముందు ఆ బాట్ దాని సేఫ్టీకి, చట్టబద్ధతను, వాస్తవాలను ఆటోమేటిక్‌గా ఒకటికి రెండు సార్లు వెరిఫై చేసుకునేలా ఒక అడ్వాన్స్‌డ్ గార్డ్‌రైల్స్‌ను సెట్ చేశారు.

Also Read: ఇదేందయ్యా ఇదీ..సేల్‌లో చిమ్నీల రేట్లు ఇంత తక్కువగా ఉన్నాయ్!

డేంజరస్ సలహాలను నివారించడం ఎలా?

కొత్త అప్‌ డేట్ల ప్రకారం, ఏఐ కంపెనీలు ఇప్పుడు ‘సేఫ్టీ ఫస్ట్’ పాలసీని కఠినంగా అమలు చేస్తున్నాయి. ఒక వేళ ఎవరైనా మెడికల్, చట్టపరమైన లేదా ఆర్థిక పరమైన ప్రమాదకరమైన సలహాలు కోరితే.. ఏఐ వెంటనే వాటిని సున్నితంగా తిరస్కరించడం లేదా నిపుణులను సంప్రదించాలని హెచ్చరించేలా.. ప్రోగ్రామింగ్ మార్చబడుతోంది. దీని వల్ల పెద్ద ఎత్తున జరిగే పొర పాట్లను, సైబర్ మోసాలను నివారించడానికి వీలవుతుంది.

యూజర్లుగా మనం తీసుకోవాల్సిన జాగ్రత్తలు:

శాస్త్రవేత్తలు ఎన్ని సూత్రాలు.. కనిపెట్టినా, ఏఐ అనేది కేవలం ఒక టూల్ మాత్రమే. దీన్ని గుడ్డిగా నమ్మడం ఎప్పుడూ మంచిది కాదు. ముఖ్యంగా ఆరోగ్యం, ఫైనాన్స్, లీగల్ విషయాల్లో.. ఏఐ చెప్పే సమాచారాన్ని క్రాస్-చెట్ చేసుకోవడం అత్యంత ముఖ్యం. టెక్నాలజీ ఎంత ట్రెండీగా మారుతున్నా, మన విచక్షణా జ్ఞానాన్ని ఉపయోగించడం ఎప్పటికీ అవసరమే!