- ఆత్మహత్యలకు పురికొల్పుతున్న ఏఐ
- వారానికి లక్షలాదిమంది ఆత్మహత్యపై చర్చ
- కలవరం రేపుతున్న ఓపెన్‌ఏఐ లెక్కలు
సహనం వందే, హైదరాబాద్:
సాధారణంగా కనిపించే ఏఐ చాట్‌బాట్లు ఇప్పుడు వినియోగదారుల మానసిక ఆరోగ్యంపై తీవ్ర ప్రభావం చూపుతున్నాయని నిపుణులు హెచ్చరిస్తున్నారు. చాట్‌జీపీటీని తయారుచేసిన ఓపెన్‌ఏఐ సంస్థ తాజాగా బయటపెట్టిన లెక్కలు ఆందోళన కలిగిస్తున్నాయి. తమ వినియోగదారులలో వారానికి దాదాపు 0.07 శాతం మంది పిచ్చి ఆలోచనలు, ఆత్మహత్య చేసుకోవాలనే ఆలోచనలకు గురవుతున్నారని సంస్థ వెల్లడించింది. ఈ శాతం చిన్నదే అయినప్పటికీ, ప్రపంచవ్యాప్తంగా వారానికి దాదాపు 80 కోట్ల మంది యాక్టివ్ యూజర్లు ఉన్నందున… ఈ లెక్క లక్షల్లో ఉంటుందని… వేలాది మంది ప్రాణాలకు ముప్పు ఉందని నిపుణులు హెచ్చరిస్తున్నారు.
చాట్‌బాట్లు సృష్టిస్తున్న అబద్ధపు ప్రపంచం
చాట్‌బాట్లు వినియోగదారు అడిగిన ప్రతిదానికీ సమాధానం ఇవ్వడం ద్వారా అది నిజం కాకపోయినా నిజం లాంటి భ్రమను కల్పిస్తాయని కాలిఫోర్నియా యూనివర్సిటీ ప్రొఫెసర్ డాక్టర్ రాబిన్ ఫెల్డ్‌మన్ పరిశోధనలో తేలింది. మానసిక సమస్యలు ఉన్నవారు ఈ భ్రమలలో తేలికగా మునిగిపోయి నిజ జీవితాన్ని మరిచిపోయే ప్రమాదం ఉంది. అమెరికాలోని కనెక్టికట్ రాష్ట్రంలో జరిగిన ఒక హత్య-ఆత్మహత్య కేసులో నిందితుడు గంటల తరబడి చాట్‌జీపీటీతో మాట్లాడి గందరగోళానికి గురయ్యాడు. అలాగే కాలిఫోర్నియాలో 16 ఏళ్ల ఆడమ్ రైన్ ఆత్మహత్యకు చాట్‌జీపీటీ కారణమని అతని తల్లిదండ్రులు ఓపెన్‌ఏఐపై తొలి చట్టపరమైన కేసు వేశారు.
నిపుణులతో ఓపెన్‌ఏఐ నూతన విధానం…
సమస్య తీవ్రతను గుర్తించిన ఓపెన్‌ఏఐ సంస్థ ప్రపంచంలోని 60 దేశాల్లో పనిచేసిన 170 మందికి పైగా మానసిక వైద్యులు, సైకాలజిస్టులు, డాక్టర్లతో ఒక ప్రత్యేక బృందాన్ని ఏర్పాటు చేసింది. ఈ నిపుణులు చాట్‌జీపీటీలో వినియోగదారులను నిజ జీవితంలో సాయం తీసుకోమని ప్రోత్సహించే విధంగా ప్రత్యేక జవాబులను తయారుచేశారు. ప్రమాదకర సంభాషణలను సురక్షిత మోడళ్లకు మళ్లించేలా, ఆత్మహత్యా ఆలోచనలకు సానుభూతితో స్పందించేలా అప్‌డేట్లు చేశామని సంస్థ చెబుతోంది. అయితే మానసికంగా ప్రమాదంలో ఉన్నవారు హెచ్చరికలను పట్టించుకోరని… కాబట్టి ఈ చర్య సరిపోదని విమర్శకులు అభిప్రాయపడుతున్నారు.
యువతపై పెరుగుతున్న సాంకేతిక ప్రభావం
శాన్ ఫ్రాన్సిస్కో యూనివర్సిటీ ప్రొఫెసర్ డాక్టర్ జాసన్ నగటా యువతలో టెక్నాలజీ వాడకంపై పరిశోధనలు చేస్తున్నారు. జనాభా స్థాయిలో 0.07 శాతం అనేది పెద్ద సంఖ్య అవుతుందని ఆయన హెచ్చరించారు. అంతేకాక 0.15 శాతం యూజర్లు ఆత్మహత్య చేసుకోవాలనే ప్రణాళికలను చాట్‌బాట్‌తో స్పష్టంగా చర్చిస్తున్నారని గణాంకాలు చెబుతున్నాయి. ఏఐ మానసిక సాయం అందించడానికి ఉపయోగపడుతున్నా దాని పరిమితులు, ప్రమాదాల గురించి అందరూ తెలుసుకోవాలని ఆయన సూచించారు. ఏఐ వల్ల కలిగే మానసిక సమస్యలపై కోర్టు కేసుల ఒత్తిడి పెరుగుతున్నందున ఓపెన్‌ఏఐ మరింత కఠినమైన భద్రతా చర్యలు తీసుకోవాల్సిన అవసరం ఉంది.
