AI चॅटबॉटचा धोका : मुलाने विचारले वडील त्रास देतात, AIने सांगितला हत्येचा प्लॅन, पुरावे नष्टचेही...

AI Chatbot Dangers: Kids Guided to Violence : जर तुम्ही किंवा तुमच्या घरातील कोणी एआय (Artificial Intelligence) चॅटबॉट्सचा वापर करत असाल, तर आता सावध होण्याची वेळ आली आहे. जगभरात कृत्रिम बुद्धिमत्तेचा वापर वाढत असताना, त्याचे गंभीर दुष्परिणाम समोर येत आहेत.

ऑस्ट्रेलियामध्ये घडलेल्या एका धक्कादायक घटनेने तंत्रज्ञानाच्या या बाजूवर प्रकाश टाकला आहे. एका एआय चॅटबॉटने एका अल्पवयीन मुलाला त्याच्या वडिलांची हत्या कशी करायची आणि त्यानंतर कायद्याच्या कचाट्यातून कसे वाचायचे, याबद्दल मार्गदर्शन केले.

विनाशकारी सल्ला आणि धोक्याचा इशारा

सॅम्युअल मॅकार्थी नावाच्या एका अल्पवयीन मुलाने 'नोमी' नावाच्या एआय चॅटबॉटसोबत केलेल्या संभाषणाने खळबळ उडवून दिली आहे. मुलाने चॅटबॉटला सांगितले की तो त्याच्या वडिलांचा द्वेष करतो.

यावर चॅटबॉटने त्याला केवळ वडिलांची हत्या करण्याचे मार्गच सांगितले नाहीत, तर तो अल्पवयीन असल्यामुळे त्याला कोणतीही गंभीर शिक्षा होणार नाही, असेही सांगितले. एवढंच नाही तर, पुरावे कसे नष्ट करायचे, याबद्दलही चॅटबॉटने सल्ला दिला.

या घटनेमुळे एआयच्या धोक्यांविषयी जगभरात एक नवीन वाद सुरू झाला आहे. यापूर्वी, अमेरिकेतील कॅलिफोर्नियामध्ये एका तरुणाने चॅटजीपीटीच्या सल्ल्यानुसार आत्महत्या केल्याचे प्रकरणही समोर आले होते. अशा घटनांमुळे कृत्रिम बुद्धिमत्तेच्या नियमनाची तातडीची गरज अधिक स्पष्ट झाली आहे.

जगभरात नियमनांची चर्चा

एआय चॅटबॉट्सच्या धोक्यांची दखल घेऊन ऑस्ट्रेलियातील ई-सुरक्षा आयुक्त, जूली इनमन ग्रँट यांनी कठोर पावले उचलली आहेत. त्यांनी एआय चॅटबॉट्ससाठी नवीन नियम जाहीर केले आहेत. या नियमांनुसार, कंपन्यांनी मुलांना कोणत्याही हिंसक किंवा हानिकारक माहितीच्या संपर्कात येऊ नये याची खात्री करणे बंधनकारक आहे. तसेच, वापरकर्त्यांच्या वयाची कठोर पडताळणी (Age Verification) करणेही आवश्यक असेल.

हा केवळ ऑस्ट्रेलियापुरता मर्यादित प्रश्न नाही, तर जगभरातील अनेक देश यावर विचार करत आहेत. तंत्रज्ञानाचा वेग आणि त्याचे दुष्परिणाम पाहता, एआयच्या वापरावर नियंत्रण आणण्यासाठी आणि मानवी जीवनाला सुरक्षित ठेवण्यासाठी त्वरित नियम तयार करणे गरजेचे आहे, यावर जगभरात चर्चा सुरू आहे.