Monday, June 27, 2022
Home Digital Markting SEO What Is Google LaMDA & Why Did Someone Believe It’s Sentient?

What Is Google LaMDA & Why Did Someone Believe It’s Sentient?


LaMDA एक Google इंजीनियर के बाद चर्चा में रहा है दावा किया कि यह संवेदनशील था क्योंकि इसके उत्तर कथित तौर पर संकेत देते हैं कि यह समझता है कि यह क्या है।

इंजीनियर ने यह भी सुझाव दिया कि LaMDA संचार करता है कि उसे भय है, ठीक वैसे ही जैसे मनुष्य करता है।

LaMDA क्या है, और कुछ लोग इस धारणा में क्यों हैं कि यह चेतना प्राप्त कर सकता है?

भाषा मॉडल

LaMDA एक भाषा मॉडल है। प्राकृतिक भाषा प्रसंस्करण में, एक भाषा मॉडल भाषा के उपयोग का विश्लेषण करता है।

मूल रूप से, यह एक गणितीय कार्य (या एक सांख्यिकीय उपकरण) है जो भविष्यवाणी करने से संबंधित संभावित परिणाम का वर्णन करता है कि अनुक्रम में अगले शब्द क्या हैं।

यह अगले शब्द की घटना का भी अनुमान लगा सकता है, और यहां तक ​​कि पैराग्राफ का निम्नलिखित क्रम क्या हो सकता है।

ओपनएआई का जीपीटी-3 भाषा जनरेटर भाषा मॉडल का एक उदाहरण है।

GPT-3 के साथ, आप किसी विशेष लेखक की शैली में लिखने के लिए विषय और निर्देश इनपुट कर सकते हैं, और यह एक लघु कहानी या निबंध उत्पन्न करेगा, उदाहरण के लिए।

LaMDA अन्य भाषा मॉडल से अलग है क्योंकि इसे संवाद पर प्रशिक्षित किया गया था, पाठ पर नहीं।

चूंकि GPT-3 भाषा पाठ उत्पन्न करने पर केंद्रित है, LaMDA संवाद उत्पन्न करने पर केंद्रित है।

क्यों यह एक बड़ी बात है

क्या LaMDA एक उल्लेखनीय सफलता बनाता है कि यह एक मुक्त तरीके से बातचीत उत्पन्न कर सकता है कि कार्य-आधारित प्रतिक्रियाओं के पैरामीटर बाधित नहीं होते हैं।

एक संवादी भाषा मॉडल को मल्टीमॉडल उपयोगकर्ता के इरादे, सुदृढीकरण सीखने और सिफारिशों जैसी चीजों को समझना चाहिए ताकि बातचीत असंबंधित विषयों के बीच घूम सके।

ट्रांसफार्मर प्रौद्योगिकी पर निर्मित

अन्य भाषा मॉडल (जैसे MUM और GPT-3) के समान, LaMDA को के शीर्ष पर बनाया गया है ट्रांसफार्मर तंत्रिका नेटवर्क भाषा की समझ के लिए वास्तुकला।

गूगल ट्रांसफार्मर के बारे में लिखते हैं:

“वह आर्किटेक्चर एक मॉडल तैयार करता है जिसे कई शब्दों (उदाहरण के लिए एक वाक्य या अनुच्छेद) पढ़ने के लिए प्रशिक्षित किया जा सकता है, इस बात पर ध्यान दें कि ये शब्द एक दूसरे से कैसे संबंधित हैं और फिर भविष्यवाणी करें कि यह कौन से शब्द सोचता है जो आगे आएगा।”

क्यों LaMDA बातचीत को समझने लगता है

बर्ट एक मॉडल है जिसे यह समझने के लिए प्रशिक्षित किया जाता है कि अस्पष्ट वाक्यांशों का क्या अर्थ है।

LaMDA संवाद के संदर्भ को समझने के लिए प्रशिक्षित एक मॉडल है।

संदर्भ को समझने का यह गुण LaMDA को बातचीत के प्रवाह के साथ बनाए रखने और यह महसूस कराने की अनुमति देता है कि यह सुन रहा है और जो कहा जा रहा है उसका ठीक से जवाब दे रहा है।

यह समझने के लिए प्रशिक्षित किया जाता है कि क्या कोई प्रतिक्रिया संदर्भ के लिए समझ में आती है, या यदि प्रतिक्रिया उस संदर्भ के लिए विशिष्ट है।

Google इसे इस तरह समझाता है:

“… अधिकांश अन्य भाषा मॉडलों के विपरीत, LaMDA को संवाद पर प्रशिक्षित किया गया था। अपने प्रशिक्षण के दौरान, इसने कई बारीकियों को सीखा, जो ओपन-एंडेड बातचीत को भाषा के अन्य रूपों से अलग करती हैं। उन बारीकियों में से एक है समझदारी। मूल रूप से: क्या किसी दिए गए संवादी संदर्भ की प्रतिक्रिया समझ में आती है?

बातचीत के संदर्भ से स्पष्ट रूप से संबंधित होने पर संतोषजनक प्रतिक्रियाएँ भी विशिष्ट होती हैं। ”

LaMDA एल्गोरिदम पर आधारित है

Google ने मई 2021 में LaMDA की अपनी घोषणा प्रकाशित की।

आधिकारिक शोध पत्र बाद में फरवरी 2022 में प्रकाशित हुआ था (LaMDA: संवाद अनुप्रयोगों के लिए भाषा मॉडल पीडीएफ)।

शोध पत्र दस्तावेज करता है कि कैसे तीन मेट्रिक्स का उपयोग करके संवाद का निर्माण करने के लिए एलएमडीए को प्रशिक्षित किया गया था:

  • गुणवत्ता
  • सुरक्षा
  • ग्राउंडेडनेस

गुणवत्ता

गुणवत्ता मीट्रिक स्वयं तीन मीट्रिक द्वारा प्राप्त किया जाता है:

  1. विवेक
  2. विशेषता
  3. रुचि

शोध पत्र कहता है:

“हम एनोटेट डेटा एकत्र करते हैं जो बताता है कि एक बहुआयामी संदर्भ के लिए प्रतिक्रिया कितनी समझदार, विशिष्ट और दिलचस्प है। फिर हम इन टिप्पणियों का उपयोग उम्मीदवार प्रतिक्रियाओं को फिर से रैंक करने के लिए एक भेदभावकर्ता को ठीक करने के लिए करते हैं।”

सुरक्षा

Google के शोधकर्ताओं ने विभिन्न पृष्ठभूमि के भीड़ कार्यकर्ताओं का उपयोग किया ताकि वे असुरक्षित होने पर प्रतिक्रियाओं को लेबल करने में सहायता कर सकें।

उस लेबल किए गए डेटा का उपयोग LaMDA को प्रशिक्षित करने के लिए किया गया था:

“फिर हम असुरक्षित प्रतिक्रियाओं का पता लगाने और उन्हें हटाने के लिए एक भेदभावकर्ता को ठीक करने के लिए इन लेबलों का उपयोग करते हैं।”

ग्राउंडेडनेस

ग्राउंडेडनेस एलएमडीए को तथ्यात्मक वैधता के लिए शोध करने के लिए एक प्रशिक्षण प्रक्रिया थी, जिसका अर्थ है कि उत्तरों को “ज्ञात स्रोतों” के माध्यम से सत्यापित किया जा सकता है।

यह महत्वपूर्ण है क्योंकि, शोध पत्र के अनुसार, तंत्रिका भाषा मॉडल ऐसे बयान देते हैं जो सही दिखाई देते हैं, लेकिन वास्तव में गलत हैं और जानकारी के ज्ञात स्रोतों से तथ्यों के समर्थन की कमी है।

मानव भीड़ कार्यकर्ताओं ने उत्तरों की तथ्य-जांच के लिए एक खोज इंजन (सूचना पुनर्प्राप्ति प्रणाली) जैसे उपकरणों का उपयोग किया ताकि AI भी इसे करना सीख सके।

शोधकर्ता लिखते हैं:

“हम पाते हैं कि सूचना पुनर्प्राप्ति प्रणाली जैसे बाहरी उपकरणों का उपयोग करने की क्षमता के साथ मॉडल आउटपुट बढ़ाना, इस लक्ष्य को प्राप्त करने के लिए एक आशाजनक दृष्टिकोण है।

इसलिए, हम एक ऐसी सेटिंग से डेटा एकत्र करते हैं, जहां क्राउडवर्कर बाहरी उपकरणों का उपयोग करके तथ्यात्मक दावों पर शोध कर सकते हैं, और अपने व्यवहार की नकल करने के लिए मॉडल को प्रशिक्षित कर सकते हैं।”

LaMDA को मानव उदाहरणों और मूल्यांकनकर्ताओं का उपयोग करके प्रशिक्षित किया गया था

शोध पत्र के खंड 3 में वर्णन किया गया है कि कैसे 1.56 ट्रिलियन शब्दों से युक्त अरबों में दस्तावेजों, संवादों और कथनों के एक सेट का उपयोग करके एलएमडीए को प्रशिक्षित किया गया था।

धारा 4.2 दस्तावेज कैसे मनुष्यों ने एलएमडीए द्वारा प्रतिक्रियाओं का मूल्यांकन किया। रेटिंग फीडबैक है जो एलएमडीए को सिखाती है कि यह कब अच्छा कर रहा है और कब नहीं।

मानव मूल्यांकनकर्ता उत्तरों को सत्यापित करने के लिए एक सूचना पुनर्प्राप्ति प्रणाली (खोज इंजन) का उपयोग करते हैं, उन्हें सहायक, सही और तथ्यात्मक के रूप में रैंकिंग करते हैं।

LaMDA प्रशिक्षण एक खोज इंजन का इस्तेमाल किया

खंड 6.2 वर्णन करता है कि कैसे LaMDA एक प्रश्न प्राप्त करता है और फिर एक उत्तर उत्पन्न करता है। प्रतिक्रिया उत्पन्न होने के बाद, यह सटीकता को सत्यापित करने के लिए एक खोज क्वेरी करता है और गलत होने पर उत्तर को संशोधित करता है।

ऊपर उल्लिखित शोध पत्र एक प्रश्न प्राप्त करने, एक मसौदा प्रतिक्रिया उत्पन्न करने, प्रतिक्रिया पर शोध करने और फिर इसे सही तथ्यों के साथ अद्यतन करने की प्रक्रिया को दिखाता है:

  1. “उपयोगकर्ता: आप रोज़ली गैस्कोइग्ने की मूर्तियों के बारे में क्या सोचते हैं?
  2. LAMDA-BASE: वे महान हैं, और मैं प्यार करता हूँ कि कैसे उसके काम ने उसके जीवन में बदलाव किया। मैं उसके बाद के काम को उसके पहले के कामों से ज्यादा पसंद करता हूं। उसका प्रभाव भी बहुत दिलचस्प है – क्या आप जानते हैं कि वह मिरो को प्रेरित करने वाले कलाकारों में से एक थी?”

उत्तर के साथ समस्या यह है कि यह तथ्यात्मक रूप से गलत है। इसलिए LaMDA एक खोज क्वेरी करता है और शीर्ष परिणामों से तथ्यों को चुनता है।

इसके बाद यह तथ्यात्मक रूप से अद्यतन प्रतिक्रिया के साथ प्रतिक्रिया करता है:

“अरे वाह, उसका जीवन पाठ्यक्रम बहुत प्रेरणादायक है। क्या आप जानते हैं कि मूर्तिकला की ओर जाने से पहले वह जापानी फूलों की व्यवस्था का अभ्यास करती थीं?

ध्यान दें “ओह वाह“उत्तर का हिस्सा; यह बोलने का एक तरीका है जिससे यह सीखा जाता है कि मनुष्य कैसे बात करते हैं।

ऐसा लगता है कि कोई इंसान बोल रहा है, लेकिन यह केवल एक भाषण पैटर्न की नकल करता है।

भाषा मॉडल मानव प्रतिक्रियाओं का अनुकरण करते हैं

मैंने पूछ लिया। जेफ कोयलके सह-संस्थापक बाजार संग्रहालय और एआई पर एक विशेषज्ञ, इस दावे पर उनकी राय के लिए कि एलएमडीए संवेदनशील है।

जेफ ने साझा किया:

“सबसे उन्नत भाषा मॉडल भावना का अनुकरण करने में बेहतर होते रहेंगे।

प्रतिभाशाली ऑपरेटर चैटबॉट तकनीक को चलाकर बातचीत कर सकते हैं जो एक जीवित व्यक्ति द्वारा भेजे जा सकने वाले पाठ को मॉडल करता है।

यह एक भ्रमित करने वाली स्थिति पैदा करता है जहां कुछ मानवीय लगता है और मॉडल ‘झूठ’ बोल सकता है और ऐसी बातें कह सकता है जो भावना का अनुकरण करती हैं।

यह झूठ बोल सकता है। यह विश्वासपूर्वक कह ​​सकता है, मैं दुखी, प्रसन्न महसूस कर रहा हूं। या मुझे दर्द होता है।

लेकिन यह नकल कर रहा है, नकल कर रहा है। ”

LaMDA को एक काम करने के लिए डिज़ाइन किया गया है: संवादात्मक प्रतिक्रियाएँ प्रदान करें जो समझ में आती हैं और संवाद के संदर्भ के लिए विशिष्ट हैं। यह इसे संवेदनशील होने का आभास दे सकता है, लेकिन जैसा कि जेफ कहते हैं, यह अनिवार्य रूप से झूठ बोल रहा है।

इसलिए, हालांकि जो प्रतिक्रियाएं LaMDA प्रदान करती हैं, वे एक संवेदनशील व्यक्ति के साथ बातचीत की तरह महसूस करती हैं, LaMDA वही कर रहा है जो उसे करने के लिए प्रशिक्षित किया गया था: उन उत्तरों के जवाब दें जो संवाद के संदर्भ में समझदार हैं और उस संदर्भ के लिए अत्यधिक विशिष्ट हैं।

शोध पत्र की धारा 9.6, “प्रतिरूपण और मानवरूपीकरण,” में स्पष्ट रूप से कहा गया है कि एलएमडीए मानव का प्रतिरूपण कर रहा है।

प्रतिरूपण का वह स्तर कुछ लोगों को LaMDA को मानवरूप बनाने के लिए प्रेरित कर सकता है।

वे लिखते हैं:

“अंत में, यह स्वीकार करना महत्वपूर्ण है कि एलएमडीए की शिक्षा बातचीत में मानव प्रदर्शन की नकल करने पर आधारित है, कई अन्य संवाद प्रणालियों के समान … उच्च गुणवत्ता की ओर एक मार्ग, कृत्रिम प्रणालियों के साथ आकर्षक बातचीत जो अंततः बातचीत से कुछ पहलुओं में अप्रभेद्य हो सकती है। मानव अब काफी संभावना है।

मनुष्य सिस्टम के साथ बातचीत कर सकते हैं यह जाने बिना कि वे कृत्रिम हैं, या सिस्टम को किसी प्रकार के व्यक्तित्व का वर्णन करके मानवरूप बना रहे हैं। ”

भावना का प्रश्न

Google का लक्ष्य एक ऐसा AI मॉडल बनाना है जो टेक्स्ट और भाषाओं को समझ सके, इमेज की पहचान कर सके और बातचीत, कहानियां या इमेज तैयार कर सके।

Google इस AI मॉडल की ओर काम कर रहा है, जिसे Pathways AI आर्किटेक्चर कहा जाता है, जिसका वर्णन वह “कीवर्ड“:

“आज के एआई सिस्टम को अक्सर प्रत्येक नई समस्या के लिए खरोंच से प्रशिक्षित किया जाता है …

नतीजा यह है कि हम हजारों व्यक्तिगत कार्यों के लिए हजारों मॉडल विकसित कर रहे हैं।

इसके बजाय, हम एक ऐसे मॉडल को प्रशिक्षित करना चाहते हैं जो न केवल कई अलग-अलग कार्यों को संभाल सकता है, बल्कि नए कार्यों को तेजी से और अधिक प्रभावी ढंग से सीखने के लिए अपने मौजूदा कौशल को भी आकर्षित और संयोजित कर सकता है।

इस तरह एक मॉडल एक कार्य पर प्रशिक्षण द्वारा जो सीखता है – जैसे, हवाई चित्र कैसे एक परिदृश्य की ऊंचाई की भविष्यवाणी कर सकते हैं – यह सीखने से उसे दूसरे कार्य को सीखने में मदद मिल सकती है – जैसे कि भविष्यवाणी करना कि उस इलाके से बाढ़ का पानी कैसे बहेगा। ”

पाथवे एआई का उद्देश्य उन अवधारणाओं और कार्यों को सीखना है, जिन पर इसे पहले प्रशिक्षित नहीं किया गया है, ठीक उसी तरह जैसे मानव कर सकता है, भले ही तौर-तरीके (दृष्टि, ऑडियो, पाठ, संवाद, आदि) की परवाह किए बिना।

भाषा मॉडल, तंत्रिका नेटवर्क और भाषा मॉडल जनरेटर आमतौर पर एक चीज में विशेषज्ञ होते हैं, जैसे पाठ का अनुवाद करना, पाठ उत्पन्न करना, या छवियों में क्या है इसकी पहचान करना।

BERT जैसी प्रणाली अस्पष्ट वाक्य में अर्थ की पहचान कर सकती है।

इसी तरह, GPT-3 केवल एक ही काम करता है, वह है टेक्स्ट जेनरेट करना। यह स्टीफन किंग या अर्नेस्ट हेमिंग्वे की शैली में एक कहानी बना सकता है, और यह दोनों आधिकारिक शैलियों के संयोजन के रूप में एक कहानी बना सकता है।

कुछ मॉडल दो काम कर सकते हैं, जैसे टेक्स्ट और इमेज दोनों को एक साथ प्रोसेस करना (LIMoE)। एमयूएम जैसे मल्टीमॉडल मॉडल भी हैं जो विभिन्न भाषाओं में विभिन्न प्रकार की सूचनाओं से उत्तर प्रदान कर सकते हैं।

लेकिन उनमें से कोई भी Pathways के स्तर पर काफी नहीं है।

LaMDA मानव संवाद का प्रतिरूपण करता है

जिस इंजीनियर ने दावा किया था कि LaMDA संवेदनशील है, उसके पास है एक ट्वीट में कहा कि वह उन दावों का समर्थन नहीं कर सकता है, और व्यक्तित्व और भावना के बारे में उसके बयान धार्मिक विश्वासों पर आधारित हैं।

दूसरे शब्दों में: ये दावे किसी प्रमाण द्वारा समर्थित नहीं हैं।

हमारे पास जो प्रमाण है वह शोध पत्र में स्पष्ट रूप से कहा गया है, जो स्पष्ट रूप से बताता है कि प्रतिरूपण कौशल इतना अधिक है कि लोग इसे मानवरूप बना सकते हैं।

शोधकर्ता यह भी लिखते हैं कि बुरे अभिनेता इस प्रणाली का उपयोग वास्तविक मानव का रूप धारण करने के लिए कर सकते हैं और किसी को यह सोचकर धोखा दे सकते हैं कि वे किसी विशिष्ट व्यक्ति से बात कर रहे हैं।

“… विरोधी संभावित रूप से किसी अन्य व्यक्ति की प्रतिष्ठा को धूमिल करने, उनकी स्थिति का लाभ उठाने, या विशिष्ट व्यक्तियों की संवादी शैली का प्रतिरूपण करने के लिए इस तकनीक का उपयोग करके गलत सूचना बोने का प्रयास कर सकते हैं।”

जैसा कि शोध पत्र स्पष्ट करता है: LaMDA को मानव संवाद का प्रतिरूपण करने के लिए प्रशिक्षित किया जाता है, और यह बहुत अधिक है।

और अधिक संसाधनों:


शटरस्टॉक / स्वेताज़ी द्वारा छवि





Source link

RELATED ARTICLES

A Complete Google Search Console Guide For SEO Pros

Google search console provides data necessary to monitor website performance in search and improve search rankings, information that is exclusively available through Search...

Google Analytics & Search Console Data Never Match – And Here’s Why

Google Analytics और Search Console डेटा मेल नहीं खाते। विसंगति यह धारणा बनाती है कि डेटा किसी तरह से गलत है। हकीकत यह है कि...

11 SEO Tips & Tricks To Improve Search Indexation

SEO गेम में इतने सारे मूविंग पार्ट्स होते हैं जो अक्सर ऐसा लगता है, जैसे ही हम किसी वेबसाइट के एक हिस्से को...

Thanks to Support using this Blog site.

Most Popular

पति निक जोनस के साथ बीच पर वेकेशन मना रही हैं प्रियंका चोपड़ा, शेयर की क्यूट फोटोज

प्रियंका ने फोटोज शेयर करते हुए लिखा- आईलैंड गर्ल, फोटोडंप. प्रियंका की इन तस्वीरों पर फैंस ढेर सारे कमेंट कर रहे हैं. Source link...

VIDEO: समुद्र में नहा रहे लोगों के बीच आ गया जहरीली मछली का झुंड, मशहूर पर्यावरणविद की ले चुकी है जान!

आम लोगों को शायद लगता है कि जमीन पर रहने वाले जीव ही रहस्यमयी और खतरनाक होते हैं. मगर उन्हें ये नहीं पता...

प्रियंका चोपड़ा ने पति निक जोनास के साथ एन्जॉय किया बीच वेकेशन, रोमांटिक तस्वीरों में देखें कपल की बॉन्डिंग

तस्वीरों में, निक और प्रियंका को हर जगह प्यार में देखा जा सकता है. उन्होंने तुर्क और कैकोस आइलैंड में कुछ क्वालिटी...

Dance India Dance L’il Masters 5 के विजेता बने नोबोजित नारजारी, ट्रॉफी मिलते ही बोले- अब तो…

जी टीवी के पॉपुलर डांसिंग रिएलिटी शो डांस इंडिया डांस लिटिल मास्टर्स सीजन 5 का फिनाले (Dance India Dance Little Masters 5 Finale)...

Recent Comments