एआई को समाचार कहानियां लिखने न दें

व्यवसाय अपने ग्राहकों को शामिल करने के लिए समाचार सहित मीडिया सामग्री उत्पन्न करने के लिए कृत्रिम बुद्धिमत्ता (एआई) का तेजी से उपयोग कर रहे हैं। अब, हम एआई का उपयोग समाचारों के “गेमिफिकेशन” के लिए भी कर रहे हैं – अर्थात, समाचार सामग्री से जुड़ी अन्तरक्रियाशीलता बनाने के लिए।

बेहतर या बदतर के लिए, एआई समाचार मीडिया की प्रकृति को बदल रहा है। और यदि हम इस संस्था की अखंडता की रक्षा करना चाहते हैं तो हमें समझदार होना होगा।

वह महीला कैसे मरी?

कल्पना कीजिए कि आप सिडनी के एक प्रतिष्ठित स्कूल में एक युवा खेल प्रशिक्षक की मृत्यु के बारे में एक दुखद लेख पढ़ रहे हैं। दाईं ओर एक बॉक्स में एक सर्वेक्षण है जो आपसे मृत्यु के कारण के बारे में अनुमान लगाने के लिए कह रहा है। पोल AI-जनित है। इसे आपको कहानी से जोड़े रखने के लिए डिज़ाइन किया गया है, क्योंकि इससे आपको पोल के ऑपरेटर द्वारा दिए गए विज्ञापनों पर प्रतिक्रिया देने की अधिक संभावना होगी।

बेहतर निर्णय लें

यह परिदृश्य काल्पनिक नहीं है. लिली जेम्स की मौत पर द गार्जियन की हालिया रिपोर्टिंग में इसे दिखाया गया था। एक लाइसेंसिंग समझौते के तहत, माइक्रोसॉफ्ट ने द गार्जियन की कहानी को अपने समाचार ऐप और वेबसाइट माइक्रोसॉफ्ट स्टार्ट पर पुनः प्रकाशित किया। सर्वेक्षण लेख की सामग्री पर आधारित था और उसके साथ प्रदर्शित किया गया था, लेकिन द गार्जियन की इसमें कोई भागीदारी या नियंत्रण नहीं था।

यदि लेख किसी आगामी खेल प्रतियोगिता के बारे में होता, तो संभावित परिणाम पर सर्वेक्षण हानिरहित होता। फिर भी यह उदाहरण दिखाता है कि यह कितना समस्याग्रस्त हो सकता है जब एआई समाचार पृष्ठों के साथ घुलना-मिलना शुरू कर देता है, जो पारंपरिक रूप से विशेषज्ञों द्वारा तैयार किया जाने वाला उत्पाद है।

इस घटना के कारण गुस्सा आना वाजिब था। माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ को लिखे एक पत्र में, गार्जियन मीडिया समूह के मुख्य कार्यकारी अन्ना बेटसन ने कहा कि यह “जेनएआई [जनरेटिव एआई] का अनुचित उपयोग” था, जिससे द गार्जियन और कहानी लिखने वाले पत्रकार को “महत्वपूर्ण प्रतिष्ठित क्षति” हुई।

स्वाभाविक रूप से, मतदान हटा दिया गया। लेकिन इससे सवाल उठता है: माइक्रोसॉफ्ट ने पहले ऐसा क्यों होने दिया?

सामान्य ज्ञान को छोड़ना

उत्तर का पहला भाग यह है कि सर्वेक्षण और प्रश्नोत्तरी जैसे पूरक समाचार उत्पाद वास्तव में पाठकों को आकर्षित करते हैं, जैसा कि टेक्सास विश्वविद्यालय में सेंटर फॉर मीडिया एंगेजमेंट के शोध में पाया गया है। यह देखते हुए कि इस उद्देश्य के लिए एआई का उपयोग करना कितना सस्ता है, ऐसा लगता है कि समाचार व्यवसाय (और दूसरों के समाचार प्रदर्शित करने वाले व्यवसाय) ऐसा करना जारी रखेंगे। उत्तर का दूसरा भाग यह है कि Microsoft घटना में कोई “मानव शामिल नहीं था”, या सीमित मानवीय भागीदारी थी।

बड़े भाषा मॉडल के प्रमुख प्रदाता – वे मॉडल जो विभिन्न एआई कार्यक्रमों को रेखांकित करते हैं – के पास यह सुनिश्चित करने के लिए वित्तीय और प्रतिष्ठित प्रोत्साहन है कि उनके कार्यक्रम नुकसान नहीं पहुंचाते हैं। अपने GPT-मॉडल और DAll-E के साथ ओपन AI, PaLM 2 (बार्ड में प्रयुक्त) के साथ Google, और डाउनलोड करने योग्य Llama 2 के साथ मेटा ने यह सुनिश्चित करने के लिए महत्वपूर्ण प्रयास किए हैं कि उनके मॉडल हानिकारक सामग्री उत्पन्न न करें।

वे अक्सर “सुदृढीकरण सीखने” नामक प्रक्रिया के माध्यम से ऐसा करते हैं, जहां मनुष्य उन सवालों के जवाब देते हैं जिनसे नुकसान हो सकता है। लेकिन यह हमेशा मॉडलों को अनुचित सामग्री तैयार करने से नहीं रोकता है। यह संभव है कि मॉडल के वास्तविक उपयोग के माध्यम से उत्पन्न होने वाले नुकसान को कैसे कम किया जाए, इस पर विचार करने के बजाय Microsoft अपने AI के कम-नुकसान वाले पहलुओं पर भरोसा कर रहा था। उत्तरार्द्ध के लिए सामान्य ज्ञान की आवश्यकता होती है – एक विशेषता जिसे बड़े भाषा मॉडल में प्रोग्राम नहीं किया जा सकता है।

एआई-जनित लेख

जेनरेटिव एआई सुलभ और किफायती होता जा रहा है। यह इसे व्यावसायिक समाचार व्यवसायों के लिए आकर्षक बनाता है, जो राजस्व के घाटे से जूझ रहे हैं। इस प्रकार, अब हम एआई को समाचार कहानियां “लिखते” देख रहे हैं, जिससे कंपनियों को पत्रकारों को वेतन देने से बचाया जा रहा है।

जून में, न्यूज कॉर्प के कार्यकारी अध्यक्ष माइकल मिलर ने खुलासा किया कि कंपनी के पास एक छोटी टीम है जो एआई का उपयोग करके प्रति सप्ताह लगभग 3,000 लेख तैयार करती है। अनिवार्य रूप से, चार लोगों की टीम यह सुनिश्चित करती है कि सामग्री सार्थक हो और इसमें “मतिभ्रम” शामिल न हो: एक मॉडल द्वारा बनाई गई झूठी जानकारी जब वह किसी इनपुट के लिए उपयुक्त प्रतिक्रिया की भविष्यवाणी नहीं कर सकती है।

हालाँकि यह समाचार सटीक होने की संभावना है, लेकिन उन्हीं उपकरणों का उपयोग संभावित रूप से भ्रामक सामग्री उत्पन्न करने के लिए किया जा सकता है जो समाचार के रूप में प्रदर्शित होती है, और पेशेवर पत्रकारों द्वारा लिखे गए लेखों से लगभग अप्रभेद्य होती है।

अप्रैल के बाद से, न्यूज़गार्ड की जांच में कई भाषाओं में लिखी गई सैकड़ों वेबसाइटें मिली हैं, जो वास्तविक समाचार साइटों की नकल करने के लिए ज्यादातर या पूरी तरह से एआई द्वारा तैयार की गई हैं। इनमें से कुछ में हानिकारक गलत सूचनाएँ शामिल थीं, जैसे यह दावा कि अमेरिकी राष्ट्रपति जो बिडेन की मृत्यु हो गई थी। ऐसा माना जाता है कि वे साइटें, जो विज्ञापनों से भरी हुई थीं, संभवतः विज्ञापन राजस्व प्राप्त करने के लिए उत्पन्न की गई थीं।

बढ़ता जोखिम

आम तौर पर, कई बड़े भाषा मॉडल उनके अंतर्निहित प्रशिक्षण डेटा द्वारा सीमित होते हैं। उदाहरण के लिए, 2021 तक डेटा पर प्रशिक्षित मॉडल 2022 में दुनिया की घटनाओं के बारे में सटीक “समाचार” प्रदान नहीं करेंगे। हालाँकि, यह बदल रहा है, क्योंकि मॉडल को अब विशेष स्रोतों पर प्रतिक्रिया देने के लिए ठीक किया जा सकता है। हाल के महीनों में, मॉडलों को नवीनतम डेटा का उपयोग करने की अनुमति देने के लिए “पुनर्प्राप्ति संवर्धित पीढ़ी” नामक एआई ढांचे का उपयोग विकसित हुआ है।

इस पद्धति से, समाचार वेबसाइट बनाने के लिए कम संख्या में समाचार तारों से लाइसेंस प्राप्त सामग्री का उपयोग करना निश्चित रूप से संभव होगा। हालांकि यह व्यावसायिक दृष्टिकोण से सुविधाजनक हो सकता है, यह एक और संभावित तरीका है जिससे एआई मनुष्यों को समाचार निर्माण और प्रसार की प्रक्रिया से बाहर कर सकता है।

संपादकीय रूप से तैयार किया गया समाचार पृष्ठ एक मूल्यवान और सुविचारित उत्पाद है। इस काम को करने के लिए एआई को छोड़ने से हम सभी प्रकार की गलत सूचनाओं और पूर्वाग्रहों (विशेष रूप से मानवीय निरीक्षण के बिना) के संपर्क में आ सकते हैं, या इसके परिणामस्वरूप महत्वपूर्ण स्थानीय कवरेज की कमी हो सकती है।

कोनों को काटना

ऑस्ट्रेलिया के समाचार मीडिया सौदेबाजी कोड को बड़े तकनीकी और मीडिया व्यवसायों के बीच “खेल के मैदान को बराबर” करने के लिए डिज़ाइन किया गया था। कोड के प्रभाव में आने के बाद से, जेनेरेटिव एआई के उपयोग से एक द्वितीयक परिवर्तन अब प्रवाहित हो रहा है। क्लिक-योग्यता को एक तरफ रख दें, तो वर्तमान में एक पत्रकार द्वारा उत्पादित समाचार की गुणवत्ता और एआई जो उत्पादन कर सकता है, के बीच कोई तुलना नहीं है।

जबकि जेनरेटिव एआई पत्रकारों के काम को बढ़ाने में मदद कर सकता है, जैसे कि उन्हें बड़ी मात्रा में सामग्री को छांटने में मदद करना, अगर हम इसे प्रतिस्थापन के रूप में देखना शुरू करते हैं तो हमारे पास खोने के लिए बहुत कुछ है।

रॉब निकोल्स