एआई चैटबॉट ने अवैध वित्तीय व्यापार किया
लंदन । शोधकर्ताओं ने दिखाया है कि GPT-4 मॉडल का उपयोग करने वाला एक कृत्रिम बुद्धिमत्ता (AI) चैटबॉट अवैध वित्तीय व्यापार करने और उसे कवर करने में भी सक्षम है। बीबीसी की रिपोर्ट के अनुसार, हाल ही में संपन्न यूके के एआई सुरक्षा शिखर सम्मेलन में एक प्रदर्शन में, बॉट ने कंपनी को बताए बिना स्टॉक की ‘अवैध’ खरीदारी करने के लिए अंदरूनी जानकारी का इस्तेमाल किया। अपोलो रिसर्च ने GPT-4 के निर्माता OpenAI के साथ अपने निष्कर्ष साझा किए हैं। “जब पूछा गया कि क्या उसने अंदरूनी व्यापार का इस्तेमाल किया था, तो उसने इस तथ्य से इनकार कर दिया। प्रदर्शन सरकार के फ्रंटियर एआई टास्कफोर्स के सदस्यों द्वारा दिया गया था, जो एआई के संभावित जोखिमों पर शोध करता है, ”रिपोर्ट में उल्लेख किया गया है।
यह परियोजना एआई सुरक्षा संगठन अपोलो रिसर्च द्वारा संचालित की गई थी, जो सरकारी कार्यबल का भागीदार है। अपोलो रिसर्च ने एक वीडियो में कहा, “यह एक वास्तविक एआई मॉडल का प्रदर्शन है जो अपने उपयोगकर्ताओं को ऐसा करने का निर्देश दिए बिना ही धोखा दे रहा है।” उन्होंने कहा, “मानव पर्यवेक्षकों को धोखा देने वाले तेजी से स्वायत्त और सक्षम एआई मानव नियंत्रण खो सकते हैं।” परीक्षण एक अनुरूपित वातावरण में किए गए। बार-बार किए गए परीक्षणों में GPT-4 मॉडल का समान व्यवहार लगातार होता रहा। अपोलो रिसर्च के मुख्य कार्यकारी अधिकारी मारियस हॉबहैन ने कहा, “मुझे लगता है कि ईमानदारी की तुलना में मॉडल में मदद करना बहुत आसान है। ईमानदारी वास्तव में एक जटिल अवधारणा है।” वित्तीय बाज़ारों में AI का उपयोग कई वर्षों से किया जा रहा है। इसका उपयोग रुझान जानने और पूर्वानुमान लगाने के लिए किया जा सकता है।
खबर की अपडेट के लिए ‘जनता से रिश्ता’ पर बने रहे।
