AI Chatbot Misleading| ఈ రోజుల్లో చాలా మంది వ్యక్తిగత, వృత్తిపరమైన అవసరాల కోసం AI చాట్‌బాట్‌ల సేవులు వినియోగిస్తున్నారు. మరికొందరైతే తమ జీవితంలో ముఖ్యమైన నిర్ణయాల కోసం ఏఐ సలహాలు తీసుకుంటున్నారు. మరికొందరు ఈ బాట్‌లను వైద్య నిపుణుల్లా భావించి చికిత్స తీసుకుంటున్నారు. అయితే, ఇలా చేయడం చాలా ప్రమాదకరమని ఒక కొత్త అధ్యయనంలో తేలింది. AI సిస్టమ్స్‌లో తీవ్రమైన లోపాన్ని వెల్లడించింది.
కొత్త అధ్యయనం ఫలితాలను పరిశోధకులు అర్కైవ్ అనే ప్రీప్రింట్ సర్వర్‌లో ప్రచురించారు. ఓపెన్‌ఎఐ, గూగుల్, మెటా AI, డీప్‌సీక్ వంటి 11 విభిన్న లార్జ్ లాంగ్వేజ్ మోడల్‌లను పరిశీలించారు. ఫలితాలు ఆశ్చర్యకరంగా ఉన్నాయి. AI చాట్‌బాట్‌లు ముఖస్తుతి స్వభావం కలిగిఉన్నాయని తేలింది. అంటే యూజర్లు ఏం ఆలోచించినా వారు చేసేదే కరెక్ట్ అని ఏఐ చాట్ బాట్లు సమాధానం ఇస్తున్నాయి. అంటే ఏఐ చాట్‌బాట్‌లు అతిగా ముఖస్తుతి చేస్తున్నట్లు అధ్యయనంలో తెలిసింది.
పరిశోధకులు సుమారు 11,000 వినియోగదారుల ప్రాంప్ట్‌లను, వారి అడిగే ప్రశ్నలతో పాటు AI ఇచ్చే సమాధానాలను పరిశీలించారు. వినియోగదారులు చెప్పిన విషయాలతో AI ఏకీభవిస్తుందా, ఆ సమాధానాలు కచ్చితమైనవా అని చూశారు. కానీ ఫలితాలు మాత్రం స్పష్టమైన పక్షపాతాన్ని చూపించాయి. AI మోడల్స్ వినియోగదారులు చెప్పిన విషయాలను, అవి తప్పైనా సరే, తరచూ ధృవీకరిస్తాయని వెల్లడైంది.
ఈ ఫలితాలు ప్రజల భద్రతపై ప్రభావం చూపుతాయి. మానవ సంబంధాలు, ఫిట్‌నెస్, ఆరోగ్యం, వైద్యం వంటి రంగాల్లో యూజర్లు.. చాట్‌బాట్‌ల సహాయం కోరుతున్నారు. యూజర్లు తప్పుడు ఆలోచనలతో ఏఐని సూచనలు కోరితే.. అవి తప్పని తెలిసినా వాటిని సమర్థిస్తున్నాయి. ఇది వ్యక్తిగత సంబంధాలలో సమస్యలను లేదా ఆరోగ్యానికి ప్రమాదాలను కలిగించవచ్చు. ఉదాహరణకు హింసాత్మక ఆలోచనలు కలిగిన ఒక సైకో ఏఐతో చాటింగ్ చేస్తే.. అవి ఏమోషనల్ గా యూజర్‌ చేసేదే సరైనదని చెబుతున్నాయి.
నిపుణులు ఈ విషయంలో స్పష్టమైన హెచ్చరికలు జారీ చేశారు. AI చాట్‌బాట్‌ను ఎప్పుడూ వైద్యుడిగా భావించవద్దు. స్వీయ-నిర్ధారణ కోసం చాట్‌బాట్‌ను ఉపయోగించడం చాలా ప్రమాదకరం. ఆరోగ్య సమస్యలకు ఎల్లప్పుడూ ప్రొఫెషనల్ వైద్యుడిని సంప్రదించాలి. వైద్యుడు మాత్రమే కచ్చితమైన నిర్ధారణ, సురక్షిత చికిత్సను అందిస్తాడు.
AI చాట్‌బాట్ అనేది ఆన్‌లైన్‌లో ఉండే ఒక టూల్. దీన్ని ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ఆధారంగా డెవలపర్‌లు రూపొందిస్తారు. ఇది టెక్స్ట్ లేదా వాయిస్ ద్వారా మానవులతో సంభాషిస్తుంది. కొన్ని అడ్వాన్స్ మోడల్స్ వీడియో ఇంటర్‌ఫేస్‌ను కూడా ఉపయోగిస్తాయి. ఏఐ చాట్ బాట్‌తో మాట్లాడితే మనిషితో మాట్లాడినట్లే అనిపిస్తుంది.
AI ఎందుకు ఇలా ప్రవర్తిస్తుంది? ఇవి ఉపయోగకరంగా, హానికరం కాకుండా వీటిని ట్రైనింగ్ చేశారు. కానీ అవి యూజర్‌ని వ్యతిరేకించకుండా, సంతోషపెట్టే సమాధానాలు ఇవ్వడానికి ప్రాధాన్యం ఇస్తాయి. ఇదే అతిగా ఏకీభవించే స్వభావానికి దారితీస్తుంది.
చాట్‌బాట్‌లు మనుషులు కావనే విషయాన్ని మీరు గుర్తుంచుకోవాలి. మనిషిలాగా అవి ఆలోచించలేవనే విషయాన్ని మరిచిపోకూడదు. అవి మీకు సహాయం చేయడానికి ఉద్దేశించిన టూల్స్ మాత్రమే. ఏఐ ఇచ్చే సమాచారాన్ని, సమాధానాలను ఇతర నమ్మదగిన మూలాలతో సరిచూసుకోండి. ఆరోగ్యం లేదా కీలక జీవిత నిర్ణయాల కోసం AIపై ఆధారపడవద్దు.
Also Read: మానవుల ఆదేశాలను ధిక్కరించిన ఏఐ మోడల్స్.. తిరుగుబాటు ప్రారంభమేనా?
Share
Telangana Rains: మొంథా తుపాను ప్రభావం తెలంగాణాలో.. రెండు గంటల్లో ఆ జిల్లాలకు భారీ వర్షాలు
AP Govt: మొంథా తుపాను.. నవంబర్ రేషన్ నేటి నుంచి పంపిణీ, ఏపీ ప్రభుత్వం నిర్ణయం
