CP Sajjanar-Prompt Injection Attacks: ఏఐ టెక్నాలజీ పెరుగుతున్న నేపథ్యంలో ప్రజలు అప్రమత్తంగా ఉండాలని హైదరాబాద్ సీపీ సజ్జనార్.. ప్రజలకు పిలుపునిచ్చారు. ఏమాత్రం అలసత్వంగా ఉన్న పెను ముప్పు తప్పదన్నారు. ఏఐ విస్తృతి పెరిగాక.. చిన్న స్టార్టప్ల నుంచి బడా మల్టీ నేషనల్ కంపెనీల వరకు అంతా ఇప్పుడు ఏఐ చాట్ బోట్ ల జపం చేస్తున్నాయి. కస్టమర్ల సందేహాలకు క్షణాల్లో సమాధానాలివ్వడం, పని వేగం పెంచడం, ఖర్చు తగ్గించడం లాంటి ప్రయోజనాలు ఉండటంతో సంస్థలు వీటిపై ఎక్కువగా ఆధారపడుతున్నాయి. అయితే, ఈ సాంకేతికత వెనుక ఓ సరికొత్త ముప్పు పొంచి ఉంది. అదే ‘ప్రాంప్ట్ ఇంజెక్షన్’ అన్నారు సీపీ సజ్జనార్.
సాధారణంగా ఏఐ పని చేయడానికి మనం ఇచ్చే ఆదేశాలను ‘ప్రాంప్ట్’ అంటారు. సైబర్ నేరగాళ్లు ఈ ప్రాంప్ట్ లనే ఆయుధంగా మలుచుకుంటున్నారు. ఏఐ మోడల్ను తప్పుదోవ పట్టించేలా, ట్రిక్ చేసేలా ప్రమాదకరమైన ‘మలీషియస్ ప్రాంప్ట్స్’ ఇస్తున్నారు. ఇంకా చెప్పాలంటే.. ఏఐని మాటలతో మాయ చేస్తున్నారు. ఏఐని కన్ఫ్యూజ్ చేసి, సాధారణంగా బయటపెట్టకూడని సంస్థల అంతర్గత పత్రాలు, కస్టమర్ల రికార్డులు, సిస్టమ్ వివరాలను బయటకు రాబడుతున్నారు. ఈ వ్యవహారాన్నే ‘ప్రాంప్ట్ ఇంజెక్షన్ అటాక్’ అంటారు.
ప్రస్తుతం చాలా సంస్థలు తమ ఏఐ మోడల్స్, చాట్ బోట్ లను కీలకమైన డేటా సిస్టమ్లకు ముఖ్యంగా సీఎంఆర్ డేటా, హెల్ప్ డెస్క్ టికెట్లు, ఉద్యోగుల సమాచారం, ఫైనాన్షియల్ రికార్డులకు లింక్ చేస్తున్నారు. ఎండ్ యూజర్ కు ఈ సమాచారం పొరపాటున కూడా కనిపించకూడదు. కానీ, హ్యాకర్లు వేసే ఒకే ఒక్క ‘ట్రిక్కీ ప్రాంప్ట్’ తో ఈ సీక్రెస్ సమాచారం అంతా బయటకు వచ్చే అవకాశం ఉంటుందని టెక్ నిపుణులు హెచ్చరిస్తున్నారు.
ఈ ముప్పును పసిగట్టి, నివారించడానికి సంస్థలు తక్షణమే ‘ప్రాంప్ట్ గార్డ్ రెయిల్స్’ ఏర్పాటు చేసుకోవాల్సిన అవసరం ఉంది. కేవలం ఒక అంచె భద్రత సరిపోదు, మల్టీ లేయర్ డిఫెన్స్ విధానాన్ని పాటించాలని సీపీ సజ్జనార్ ఆయా కంపెనీలకు సూచించారు.
⦿ మోడల్ లెవల్ సెక్యూరిటీ: ఏఐకి సేఫ్టీ ట్రైనింగ్ ఇవ్వడం, కఠినమైన నిబంధనలు విధించడం ద్వారా అనవసర సమాచారాన్ని ఇవ్వకుండా నియంత్రించాలి.
⦿ ప్రాంప్ట్ లెవల్ సెక్యూరిటీ: హానికరమైన ప్రాంప్ట్ లను గుర్తించే వ్యవస్థను ఏర్పాటు చేసుకోవాలి.
⦿ సిస్టమ్ లెవల్ సెక్యూరిటీ: ఏఐకి యాక్సెస్ ఇచ్చే డేటా, ఏపీఐలపై కఠిన నియంత్రణలు ఉండాలి.
⦿ ఆడిట్స్ & యాక్సెస్: ఎప్పటికప్పుడు సెక్యూరిటీ ఆడిట్స్ నిర్వహిస్తూ.. డేటా యాక్సెస్ను పరిమితం చేయాలి.
సరైన భద్రతా చర్యలు తీసుకోకపోతే సంస్థల కార్యకలాపాలు స్తంభించిపోవడంతో పాటు, విలువైన డేటా నేరగాళ్ల చేతికి చిక్కి కోలుకోలేని దెబ్బతినే ప్రమాదం ఉందని సీపీ సజ్జనార్ హెచ్చరించారు. తగిన జాగ్రత్తలు తీసుకోవాలని సూచించారు.
Read Also: 300 టన్నుల బంగారంతో సొరంగంలోకి వెళ్లి మాయమైన రైలు, 80 ఏళ్లుగా వెతుకుతూనే ఉన్నారు!
Share
Samanth - Raj nidimoru wedding: ఇట్స్ అఫీషియల్.. పెళ్లి ఫోటోలు షేర్ చేసిన సమంత!
Belching: పదే పదే పుల్లని తేన్పులు వేధిస్తున్నాయా?.. వాటిని అంతం చేసే చిట్కాలివిగో పట్టండి!
