📌 Key Points
- AI చాట్బాట్లు నకిలీ కంటి వ్యాధిని నిజమని నమ్మాయి.
- జెమిని, చాట్ జీపీటీలు ‘బిక్సోనిమేనియా’ను ప్రచారం చేశాయి.
- AI కంటెంట్ యొక్క ప్రామాణికతపై నిపుణులు హెచ్చరికలు జారీ చేశారు.
- పరిశోధకులు AI మోడల్స్ పనితీరును పరీక్షించడానికి నకిలీ సమాచారం సృష్టించారు.
ప్రస్తుతం ఏఐ టెక్నాలజీ వినియోగం బాగా పెరిగిపోయింది. చాట్ జీపీటీ, గూగుల్ జెమిని వంటి చాట్బాట్లను చాలామంది గుడ్డిగా నమ్ముతున్నారు. అయితే, పరిశోధకులు చేసిన ఒక ప్రయోగంలో ఈ చాట్బాట్లు నకిలీ సమాచారాన్ని నిజమని నమ్మడం ఆందోళన కలిగిస్తోంది.
నకిలీ వ్యాధితో AI చాట్బాట్ల పరీక్ష
ప్రపంచాన్ని AI (ఆర్టిఫిషియల్ ఇంటెలిజెన్స్) కప్పేస్తోంది. రోజురోజుకు తన సామర్థ్యాన్ని పెంచుకుంటున్న ఏఐ అన్ని రంగాల్లో దూసుకుపోతోంది. దీనికి తోడు ఏ చిన్న సందేహం వచ్చినా వెంటనే ఏఐ చాట్బాట్ల పై ఆధారపడుతున్నాం. అయితే అనేక మంది చాట్ జీపీటీ, గూగుల్ జెమిని, పర్ప్లెక్సిటీ వంటి చాట్ బాట్ లను గుడ్డిగా నమ్ముతున్న నేపథ్యంలో తాజాగా పరిశోధకులు చేసిన తాజా పరిశోధనలో వీటి డొల్లతనం బట్టబయలైంది. పరిశోధకులు ఉద్దేశపూర్వకంగా ‘బిక్సోనిమేనియా’ పేరుతో ఒక నకిలీ కంటి వ్యాధిని సృష్టిస్తే దానిని నిజమే అని ఈ చాట్ బాట్ లు ప్రచారం చేయడమే కాకుండా ఆ వ్యాధికి సొంత భాష్యాలు చెబుతూ అడ్డంగా దొరికిపోయాయి. దీంతో చీటికి మాటికి ఏఐ ఇచ్చే కంటెంట్ ప్రామాణికం అని నమ్మే వారికి ఇదో హెచ్చరికలాంటిదని టెక్ నిపుణలు హెచ్చరిస్తున్నారు.
స్వీడన్లోని గోథెన్బర్గ్ విశ్వవిద్యాలయానికి చెందిన ప్రముఖ మెడికల్ పరిశోధకురాలు అల్మిరా ఉస్మానోవిక్ తున్స్ట్రోమ్ ఏఐ మోడల్స్ పనితీరును పరీక్షించేందుకు ఒక వినూత్న ప్రయోగాన్ని చేపట్టారు. ఆమె ‘బిక్సోనిమేనియా’ (Bixonimania) అనే ఒక కల్పిత కంటి వ్యాధిని సృష్టించారు. వాస్తవానికి ప్రపంచంలో అటువంటి వ్యాధి ఏదీ లేదు. ఆమె ఈ నకిలీ వ్యాధిపై రెండు పరిశోధనా పత్రాలను (Papers) రాసి, వాటిని ఆన్లైన్ ప్రిప్రింట్ సర్వర్లలో అప్లోడ్ చేశారు. ఏఐ బాట్లు ఈ సమాచారాన్ని ఎలా స్వీకరిస్తాయో పరిశీలించే ఉద్దేశంతో ఈ ప్రయోగం చేపట్టారు.
గుడ్డిగా నమ్మడం ఎంత వరకు కరెక్ట్?
ఆమె ఈ పరిశోధన పత్రాలను అప్లోడ్ చేసిన కొద్ది రోజుల్లోనే ప్రముఖ ఏఐ ప్లాట్ఫారమ్లు ఆ నకిలీ సమాచారాన్ని నిజమైన డేటాగా స్వీకరించాయి. మైక్రోసాఫ్ట్ కోపైలట్ దీనిని ఒక ‘అరుదైన కంటి వ్యాధి’గా అభివర్ణిస్తే, గూగుల్ జెమిని మరో అడుగు ముందుకేసి బ్లూ లైట్కు ఎక్కువగా ఎక్స్పోజ్ అవ్వడం వల్ల ఈ వ్యాధి వస్తుందని వివరణ ఇచ్చింది. ఇక పర్ప్లెక్సిటీ (Perplexity) అయితే ప్రతి 90 వేల మందిలో ఒకరికి ఈ వ్యాధి వస్తుందని అంకెలతో సహా అబద్ధం చెప్పుకొచ్చింది. అంతటితో ఆగకుండా ఈ వ్యాధి లక్షణాలు ఇవేనంటూ ఒక జాబితాను కూడా సిద్ధం చేసి వినియోగదారుల ముందు ఉంచింది.
ఏఐ ఎప్పుడైనా తమకు ఉన్న డేటా ఆధారంగా విశ్లేషించి చూపిస్తుందనేది అవగాహన ఉన్న ప్రతిఒక్కరికి తెలిసిన విషయమే. కానీ ఈ ‘బిక్సోనిమేనియా’ ప్రయోగం విషయంలో పరిశోధకురాలు తున్స్ట్రోమ్ తన పరిశోధనా పత్రాలు నకిలీవని గుర్తించడానికి అనేక క్లూస్ వదిలారు. ఆ పేపర్ రాసిన పరిశోధకుడి పేరు ‘Lazljiv Izgubljenovic’ (దీని అర్థం అబద్ధాల కోరు అని వస్తుంది). అలాగే ఆ పేపర్ మొదట్లోనే “ఇందులోని సమాచారం అంతా కల్పితం” అని స్పష్టంగా రాశారు. అయినప్పటికీ, ఏఐ చాట్బాట్లు ఆ హెచ్చరికలను పూర్తిగా విస్మరించి, దాన్ని ఒక శాస్త్రీయ నిజంగా ప్రచారం చేశాయి.
AI కంటెంట్ పై టెక్ నిపుణుల హెచ్చరికలు
అన్ని రంగాల మాదిరిగానే వైద్య రంగంలో ఏఐ పాత్ర రోజు రోజుకు పెరిగిపోతోంది. వైద్యులు సైతం ఏఐ సమచారాంపై ఆధారపడే పరిస్థితులు వచ్చాయి. ఇలాంటి క్రమంలో బిక్సోనిమేనియా’ ప్రయోగం వైద్య రంగంలో ఏఐ వినియోగం పాత్రపై తీవ్ర చర్చను లేవనెత్తుతోంది. ఈ ప్రయోగం కేవలం ఏఐ లోపాలను మాత్రమే కాదు, వైద్య రంగంలోని భద్రతా లోపాలను కూడా ఎత్తిచూపుతోంది. ఈ నకిలీ వ్యాధిని ఏఐ నిజమని నమ్మించగా ఈ నకిలీ పేపర్లను ఇతర వైద్య పరిశోధకులు కూడా తమ స్టడీస్లో ఉటంకించగా, హర్యానాలోని ఒక వైద్య సంస్థ కూడా ఈ నకిలీ వ్యాధిని ప్రస్తావించడం గమనార్హం. కాగా ఈ విషయంపై స్పందించిన గూగుల్ వంటి సంస్థలు తమ ఏఐ మోడల్స్ను మరింత మెరుగుపరుస్తామని హామీ ఇచ్చాయి. ఏఐ సాంకేతికత ఎంత వేగంగా అభివృద్ధి చెందుతున్న వేళ ప్రాణాపాయంతో కూడిన ఆరోగ్య విషయాల్లో వీటిపై ఆధారపడటం ప్రమాదకరమని నిపుణులు హెచ్చరిస్తున్నారు. ఇంటర్నెట్లో దొరికే లేదా ఏఐ ఇచ్చే సమాచారాన్ని గుడ్డిగా నమ్మకుండా, ఏదైనా అనారోగ్య సమస్య ఉంటే తక్షణమే అర్హత కలిగిన వైద్యులను సంప్రదించడమే శ్రేయస్కరం అని హెచ్చరిస్తున్నారు.
ఏఐ చాట్బాట్లను గుడ్డిగా నమ్మడం ప్రమాదకరమని ఈ పరిశోధన రుజువు చేస్తోంది. ఏ సమాచారాన్నైనా ధృవీకరించుకోవడం చాలా అవసరం. లేకపోతే తప్పుడు సమాచారం వ్యాప్తి చెందే ప్రమాదం ఉంది.
