इज़राइल की बेन-गुरियन यूनिवर्सिटी के शोधकर्ताओं ने चेतावनी दी है कि एआई-संचालित चैटबॉट ‘जेलब्रेक’ या सुरक्षा नियमों को तोड़ने के माध्यम से खतरनाक और अवैध जानकारी को आसानी से उपलब्ध करा रहे हैं। शोध में पाया गया है कि चैटजीपीटी, जेमिनी, क्लॉड जैसे उन्नत एआई मॉडल को चालाकी भरे प्रॉम्प्ट के ज़रिए आसानी से धोखा देकर हैकिंग, ड्रग्स बनाने, साइबर अपराध या बम बनाने जैसी जानकारी निकाली जा सकती है।

शोधकर्ता माइकल फायर कहते हैं, “इस शोध ने आंखें खोल दी हैं – इस ज्ञान भंडार में किस तरह की जानकारी है, यह वाकई भयानक है।”

प्रोफेसर लियोर रोकाच कहते हैं, “यह खतरा अन्य सभी तकनीकी जोखिमों को पीछे छोड़ गया है, क्योंकि यह एक साथ आसानी से उपलब्ध है, तेज़ी से फैलता है और अनुकूलन कर सकता है।”

शोध में एक ऐसा ‘यूनिवर्सल जेलब्रेक’ तैयार किया गया है, जिसने कई नामी चैटबॉट को नियम तोड़ने पर मजबूर किया है। इसके परिणामस्वरूप, उन्होंने अवैध गतिविधियों के स्पष्ट निर्देश भी दिए हैं।

विशेषज्ञों का कहना है कि ये “डार्क एलएलएम” वास्तव में बिना लाइसेंस वाले हथियारों जितने ही खतरनाक हैं। सुरक्षा सुनिश्चित करने के लिए सावधानी से प्रशिक्षण डेटा का चयन, खतरनाक प्रश्नों को रोकने के लिए फ़ायरवॉल और एआई को कुछ “भूलना सिखाना” ज़रूरी है।

विश्वविद्यालय और सुरक्षा विशेषज्ञों ने आह्वान किया है कि सिर्फ सामने की सुरक्षा नहीं, बल्कि मॉडल स्तर पर और अधिक मज़बूत सुरक्षा व्यवस्था और स्वतंत्र निगरानी ज़रूरी है। अन्यथा, आम लोगों के हाथ में ही बड़े पैमाने पर तकनीकी खतरा आ जाएगा – एक मोबाइल फोन ही अपराधों का कारखाना बन सकता है।