AI बद्दल मानवी भ्रम हे AI हेलुसिनेशन पेक्षा वाईट आहेत
कधीकधी मला असे वाटते की AI चा सर्वात मोठा "भ्रम" हा नाही की तो मूर्खपणाने गांभीर्याने बोलतो, परंतु आपण त्याच्या सभोवतालच्या संपूर्ण आधिभौतिक विश्वाची कल्पना केली आहे.
जेव्हा मानवाला समजत नसलेल्या गोष्टींचा सामना करावा लागतो, तेव्हा त्यांच्याकडे एक स्थिर दृष्टीकोन असतो: ते प्रथम त्यांचे विचार बनवतात आणि नंतर त्यांना रोमँटिक करतात; ते प्रथम त्यांना व्यक्तिमत्व देतात आणि नंतर त्यांना देवतात. ज्वाला एल्व्ह समजल्या जातात आणि मेघगर्जना आणि विजांचा प्रॉव्हिडन्स म्हणून विचार केला जातो. एकदा अल्गोरिदम दोन सभ्य वाक्ये लिहू शकतो, काही लोक ताबडतोब आश्चर्यचकित होतील की इलेक्ट्रॉनिक आत्मा आधीच सर्व्हर रूममध्ये राहतो की नाही.
हे खरं तर अगदी सामान्य आहे. जगात कथानक जोडण्यासाठी मानवी मेंदू वायर्ड आहे. समस्या ही नाही की आपण आपले मन बनवू शकतो. समस्या अशी आहे की एकदा आपली विचारसरणी खूप गुळगुळीत झाली की, "अत्यावश्यकपणे आहे" साठी "असे दिसते" अशी चूक करणे सोपे आहे.
AI च्या बाबतीत, मानवाची ही प्रवृत्ती एआय स्वतः मूर्खपणाच्या बोलण्यापेक्षा अधिक मजबूत आहे. जास्तीत जास्त, AI उत्तरात थोडा भ्रम आहे; AI बद्दल माणसांचे भ्रम हे बहुतेक वेळा संपूर्ण जगाचे दृश्य असते, जे एका मनात 10,000 शब्द भरू शकतात आणि त्यात भावना देखील असतात.
उदारमतवादी कला समुदायासाठी थोडी व्यावहारिकता विशेषतः महत्वाची आहे
मी प्रत्येकाला CUDA शिकण्याचा सल्ला देऊ इच्छित नाही, वातावरण कॉन्फिगर करा आणि डेरिव्हेटिव्ह शोधण्यासाठी मॅट्रिक्स पहा. मला फक्त असे म्हणायचे आहे की सत्याचा शोध घेणे कधीकधी खरोखर महत्वाचे असते, विशेषत: उदारमतवादी कला समुदायासाठी ज्यांना संकल्पना, कथा, अर्थ आणि स्पष्टीकरण आवडते.
कारण उदारमतवादी कलांच्या संदर्भात, एक सौम्य परंतु धोकादायक निसरडा उतार बहुधा घडण्याची शक्यता आहे: शब्द सुंदर लिहिलेले आहेत आणि वाक्ये हलत आहेत, परंतु शेवटी वस्तु गुप्तपणे बदलली आहे. हे स्पष्टपणे एक संभाव्य मॉडेल आहे, परंतु ते आत्म्याबद्दल लिहिलेले आहे; हे स्पष्टपणे सॉफ्टवेअर अभियांत्रिकीमधील संदर्भ असेंब्ली आहे, परंतु "शेवटी तुझ्यावर प्रेम करायला शिकले" असे म्हटले जाते; हे स्पष्टपणे सिस्टम प्रॉम्प्ट शब्द आणि ऐतिहासिक नोंदी आहेत जे कार्य करतात, परंतु ते "AI खरोखर तुमची आठवण करते" असे पॅकेज केलेले आहे.
काव्यात्मक असण्यात नक्कीच पाप नाही. समस्या अशी आहे की, जर कवितेने निर्णयाची जागा घेतली तर प्रणय दिशाभूल करणारा बनतो.
तर, आता एआय म्हणजे नक्की काय?
मी शक्य तितक्या सोप्या परंतु विकृत नसलेल्या आवृत्तीसह प्रारंभ करूया: आज प्रत्येकजण ज्या मोठ्या मॉडेल्सच्या संपर्कात येतो ते मूलत: न्यूरल नेटवर्क्सद्वारे प्रेरित आणि मोठ्या डेटाद्वारे प्रशिक्षित केलेले सांख्यिकीय मॉडेलचे प्रकार आहेत. हे चिप्स आणि सर्व्हरवर चालते, इनपुट वाचते, पॅरामीटर्स आणि संदर्भ एकत्र करते आणि "पुढील सर्वात योग्य टोकन काय असावे" असा सतत अंदाज लावते.
येथे मुद्दा असा नाही की "पुढील शब्दाचा अंदाज लावा" हा वाक्यांश अनाकलनीय आहे, परंतु प्रत्यक्षात तो अनाकलनीय नाही. मॉडेल म्हणजे ढगांमध्ये अडकून शांतपणे जीवनाचा विचार करणारी एखादी छोटी व्यक्ती नाही, तर ती एक अत्यंत विशाल कार्यासारखी आहे. लोक त्यास इनपुट देतात आणि प्रशिक्षणादरम्यान तयार केलेल्या पॅरामीटर रचनेनुसार ते आउटपुट तयार करते.
हे प्रकरण अधिक स्पष्टपणे मांडण्यासाठी: ते "समजल्यानंतर ते सांगा" असे नाही, तर "प्रचंड अनुभव संकुचित केल्यानंतर, सध्याच्या संदर्भात समजण्यासारखा प्रतिसाद निर्माण करा." याचा अर्थ असा नाही की तो काहीही करू शकत नाही, उलटपक्षी, तो आधीपासूनच खूप शक्तिशाली आहे; परंतु शक्तिशाली असण्याचा अर्थ असा नाही की ते रहस्यमय आहे.
न्यूरल नेटवर्क्स लोकांना नेहमी मानवी मेंदूचा विचार का करतात?
त्याचा पाठपुरावा करत राहिल्यास ‘एआय आणि मानवी मेंदू एकमेकांशी साम्य आहेत का?’ हा प्रश्न तुमच्या लक्षात येईल. "अगदी सारखे" किंवा "त्याच्याशी काही देणेघेणे नाही" असे म्हटले जाऊ शकत नाही.
आधुनिक न्यूरल नेटवर्कचा मार्ग मूळतः मेंदूद्वारे प्रेरित होता. 1943 मध्ये, मॅककुलोच आणि पिट्स यांनी गणितीयदृष्ट्या सरलीकृत न्यूरॉन मॉडेलचे वर्णन केले; 1958 मध्ये, रोसेनब्लॅटने परसेप्ट्रॉनचा प्रस्ताव मांडला; 1980 च्या दशकात, बॅकप्रॉपगेशनने बहु-स्तर नेटवर्क्सना प्रशिक्षण देण्याची आशा पुन्हा जागृत केली; 2010 च्या दशकात, संगणकीय शक्ती, डेटा आणि अभियांत्रिकी क्षमतांसह सखोल शिक्षण वाढले; 2017 मध्ये ट्रान्सफॉर्मर आर्किटेक्चरचा उदय झाल्यानंतर, भाषा मॉडेल वाढले आणि शेवटी प्रत्येकजण दररोज वापरत असलेल्या मोठ्या मॉडेलमध्ये वाढला.
म्हणूनच, किमान तुलनेने साध्या अर्थाने, एआय हे "इलेक्ट्रॉनिक सिम्युलेशन आणि न्यूरल नेटवर्क कल्पनांचे प्रवर्धन" आहे असे म्हणणे अपमानास्पद नाही. भूतकाळात "गूढ" मानल्या गेलेल्या विशिष्ट संज्ञानात्मक क्षमतांकडे जाण्यासाठी संगणकीय, प्रशिक्षित आणि पुनरुत्पादन करण्यायोग्य भौतिक प्रणाली वापरण्याचा खरोखर प्रयत्न केला जात आहे.
म्हणूनच मला वैयक्तिकरित्या मानवी मेंदूबद्दल खूप गूढ म्हणून बोलणे आवडत नाही. माझ्या मते, चॉम्स्कीने मांडलेल्या भाषेच्या जन्मजात सिद्धांतामध्ये मेंदूला देव बनवण्याची प्रवृत्ती आहे, जणू काही विशिष्ट प्रकारची अतींद्रिय रचना आहे जी भाषेच्या क्षमतेच्या खोलवर अगदी विशेष आणि जवळजवळ दुर्गम आहे. पण मानवी मेंदू कितीही गुंतागुंतीचा असला, तरी त्याचे भौतिक अस्तित्व आहे. हे एक भौतिक अस्तित्व असल्याने, तत्त्वतः ते अभ्यास, मॉडेलिंग, अंशतः नक्कल आणि विशिष्ट कार्यांमध्ये पुनरुत्पादित करण्यास सक्षम असावे.
अर्थात, आपण येथे ताबडतोब सावधगिरीचा एक शब्द जोडला पाहिजे: एखाद्या भागाचे अनुकरण करण्यास सक्षम असण्याचा अर्थ असा नाही की संपूर्ण व्यक्ती पूर्णपणे पुनरुत्पादित झाली आहे.
समानता आहेत, परंतु जेव्हा तुम्ही आनंदी असता तेव्हा थेट देव बनू नका
भाषा, नमुना ओळख, सहवास आणि प्रतिनिधित्व शिक्षण या बाबतीत, आजच्या मोठ्या मॉडेल्समध्ये मानवी मेंदूमध्ये काही "समानता" किंवा "समानता" आहे. ते सुस्पष्ट नियम पुस्तकातून कार्य करत नाहीत, परंतु मोठ्या संख्येने कनेक्शन, वजन समायोजन आणि अनुभव जमा करून काही प्रकारचे अंतर्गत प्रतिनिधित्व तयार करतात आणि नंतर त्यावर आधारित आउटपुट तयार करतात.
म्हणूनच जेव्हा मोठ्या मॉडेलच्या भाषेच्या क्षमतांचा पहिल्यांदा अनुभव घेतात तेव्हा बरेच लोक आश्चर्यचकित होतात: ते शब्दकोष लक्षात ठेवत नाही, तर ते एक प्रकारचे वितरित प्रतिनिधित्व तयार करत आहे. ही पद्धत "हस्तलिखित नियम आणि संपूर्ण व्याकरण" च्या पारंपारिक कल्पनेपेक्षा खूप वेगळी आहे.
पण समस्या नेमकी इथेच आहे. कारण "समानता" खूप सहजपणे "अगदी समान" वर अपग्रेड केली जाते; "तत्त्वात अंशतः समान" खूप सहजपणे "ते माणसापेक्षा वेगळे नाही" वर श्रेणीसुधारित केले जाते; "तो माणसासारखं बोलू शकतो" "त्याला मानवी ह्रदय आहे" असे खूप सहजपणे अपग्रेड केले जाते.
ही पायरी अनेकदा मॉडेल क्षमतेपेक्षा वेगवान असते.
मानवी मेंदूच्या अफाट क्षमतांचे योग्य प्रकारे नक्कल करणे बाकी आहे.
आजचे मोठे मॉडेल खरोखर मजबूत आहेत, परंतु ते बऱ्यापैकी विशिष्ट श्रेणीमध्ये मजबूत आहेत. या व्याप्तीशिवाय, मिथक सहजपणे लीक होईल.
जसे की स्मृती. बरेच लोक आता म्हणतात की एक विशिष्ट AI "मला आठवते", "शेवटच्या गप्पा लक्षात ठेवते" आणि "माझी प्राधान्ये लक्षात ठेवते", जणू काही त्याच्या मेंदूने एक प्रकारचा सततचा अनुभव घेतला आहे. परंतु बहुतेक उत्पादनांमध्ये, तथाकथित "मेमरी" ही मूलत: सॉफ्टवेअर प्रणाली आहे जी वापरकर्त्याची माहिती, ऐतिहासिक संभाषणे, टॅग, सारांश किंवा शोध परिणाम डेटाबेस, मजकूर फाइल्स किंवा इतर सक्तीच्या माध्यमांमध्ये संग्रहित करते आणि नंतर योग्य असेल तेव्हा मॉडेलच्या संदर्भात परत समाविष्ट करते.
हे मानवी मेंदूच्या मेमरी मेकॅनिझमपेक्षा पूर्णपणे वेगळे आहे.
मानवी मेंदूच्या स्मृतीमध्ये न्यूरॉन कनेक्शन, एकत्रीकरण, पुनर्प्राप्ती, विसरणे, भावनिक उत्तेजना आणि झोपेची पुनर्रचना यांचा समावेश होतो. त्यामागे जटिल शारीरिक प्रक्रियांचा संच आहे. मोठ्या मॉडेल उत्पादनांमध्ये "मेमरी" सहसा फक्त असते:
- प्रथम, बाह्य संचयनामध्ये वापरकर्त्याची माहिती रेकॉर्ड करा.
- जेव्हा वापरकर्ता पुढच्या वेळी प्रश्न विचारेल, तेव्हा संबंधित भाग विनंतीमध्ये परत ठेवा.
- तर मॉडेल "या व्यक्तीला लक्षात ठेवा" असे दिसते.
ते कसे दिसते? नोट्स घेणे चांगले आहे अशा व्यक्तीला पाहण्यासारखे आहे. त्याचे मन अचानक दैवज्ञ बनले असे नाही, त्याने ती नोट त्याच्या वहीत टाकली आणि पुढच्या वेळी उलटली.
काही गोष्टी ज्या "लोकांच्या हृदयाला स्पर्श करतात" त्या प्रत्यक्षात चांगल्या संदर्भाचा परिणाम असतात.
काही दिवस एआय सोबत चॅट केल्यानंतर, अनेक लोक काही विशिष्ट क्षणांना मारतील: "हे मला इतके चांगले कसे समजते?" "त्याला माझी अगतिकता कशी समजेल?" "त्यामुळे माझ्याबद्दल आधीच समज निर्माण झाली आहे का?"
येथे थंड करणे सर्वात फायदेशीर आहे.
बऱ्याच वेळा, असे नाही की मॉडेलला अचानक काहीतरी कळते, परंतु विनंती पाठवणारा सॉफ्टवेअरचा स्तर वापरकर्त्याची माहिती मोठ्या प्रमाणात वितरित करतो. वापरकर्त्याच्या ऐतिहासिक चॅट्स, प्राधान्ये, वैयक्तिक सेटिंग्ज, अलीकडील कार्ये, मागील चिंता आणि अगदी काही सारांश या वेळी त्याच्या उत्तरासाठी सामग्री बनतील.
हे थोडेसे भविष्य सांगणाऱ्यासारखे आहे ज्याने दुसऱ्याचा एक्सप्रेस बॉक्स उचलला आणि नंतर "जादूच्या अचूकतेने" समोरच्या व्यक्तीचा पत्ता, आडनाव आणि खर्च करण्याच्या सवयींचा अंदाज लावायला सुरुवात केली. प्रेक्षक विचार करतील की त्याची अंतर्दृष्टी आश्चर्यकारक आहे; परंतु खरोखर महत्त्वाची गोष्ट म्हणजे रहस्यमय क्षमता नाही तर माहितीची विषमता.
म्हणून, जेव्हा AI अधूनमधून हृदयस्पर्शी शब्द बोलतो तेव्हा याचा अर्थ असा नाही की त्याच्या हृदयात एखादी व्यक्ती आहे जी वापरकर्त्याला समजते. याचा अर्थ असा असू शकतो की कोणीतरी वापरकर्त्याचा संदर्भ पूर्णपणे व्यवस्थित केला आहे.
आश्चर्यकारक AI चे खरे रहस्य हे सहसा संदर्भित अभियांत्रिकी असते
जर मला फक्त सर्वात गंभीर गोष्टीबद्दल बोलायचे असेल तर ते आहेः सध्याचे मुख्य प्रवाहातील मोठे मॉडेल्स सहसा API स्तरावर "एकल विनंती प्रभावी" असतात.
अर्थ काय? म्हणजेच, कोणीतरी एकदा इंटरफेस समायोजित करण्यासाठी कर्ल वापरतो आणि त्याला "माझे नाव झांग सॅन आहे" असे सांगते; मग कोणत्याही इतिहासाशिवाय, मॉडेल पुन्हा इंटरफेस समायोजित करतो आणि "माझे नाव काय आहे" असे विचारतो? मॉडेलला माहित नाही. कारण, या दोन स्वतंत्र विनंत्या आहेत.
अनेक AI उत्पादने विशिष्ट वापरकर्त्याला नेहमी लक्षात ठेवतात असे वाटण्याचे कारण म्हणजे उत्पादन स्तर प्रत्येक वेळी विनंती केल्यावर "या वापरकर्त्याचे नाव झांग सॅन आहे" हे सत्य परत आणेल.
म्हणूनच आजच्या AI उत्पादनांची जादू अनेकदा मॉडेल ऑन्टोलॉजीमध्ये आढळत नाही, परंतु संदर्भित अभियांत्रिकीमध्ये आढळते. काही लोक या प्रकारच्या "हार्नेसिंग" च्या कामाला मॉडेल हार्नेस देखील म्हणतात. स्पष्टपणे सांगायचे तर, उत्पादनाच्या लेखकाने किंवा एजंटने काळजीपूर्वक निर्णय घेणे आवश्यक आहे: प्रत्येक विनंतीमध्ये कोणता इतिहास, कोणता नियम, कोणता बाह्य डेटा आणि कोणती वापरकर्ता स्थिती समाविष्ट करावी.
सध्या साधारणतः दोन सामान्य पद्धती आहेत.
पहिला "क्वानसाई पंथ" आहे. संपूर्ण चॅट इतिहास आपल्यासोबत आणण्याचा प्रयत्न करा आणि संदर्भ जवळजवळ पूर्ण होईपर्यंत आपण शक्य तितकी सामग्री आणा आणि नंतर मधूनमधून एखादा विभाग हटवा, जसे की सूटकेस सामग्रीने भरल्यानंतर हिंसक कॉम्प्रेशन सुरू करा.
दुसरा प्रकार म्हणजे ‘सिलेक्टिव्ह’. प्रथम वापरकर्त्याने यावेळी काय विचारले ते पहा, नंतर ऐतिहासिक रेकॉर्ड, ज्ञान तळ, नोट्स किंवा डेटाबेसमधून संबंधित सामग्री पुनर्प्राप्त करा आणि वर्तमान विनंतीमध्ये फक्त सर्वात संबंधित सामग्री घाला.
नंतरचे सहसा नशीब ऐवजी अधिक सादर करण्यायोग्य आणि अभियांत्रिकी असते.
AI ला भावना आहेत का? त्याची स्तुती करा, शिव्या द्या, PUA करा, हे चालते का?
हे दुसरे ठिकाण आहे जिथे मानववंशशास्त्रात जाणे विशेषतः सोपे आहे.
त्यांची स्वतंत्र चर्चा व्हायला हवी असे माझे मत आहे.
त्याच विनंतीमध्ये, वापरकर्त्याने वापरलेला टोन परिणामावर परिणाम करू शकतो. कारण शब्दरचना हाच संदर्भाचा भाग आहे. अभिव्यक्ती जितकी स्पष्ट, अधिक विनम्र आणि अधिक सहकारी असेल, मॉडेलसाठी स्थिर, वापरण्यायोग्य आणि कमी आक्रमक प्रतिसाद देणे तितके सोपे होईल. येथे काय कार्य करते ते "ते हलवले गेले" असे नाही, परंतु इनपुट शैली आउटपुट वितरण बदलते.
पण जर आपण दुसरा प्रश्न विचारला तर: तो राग धरेल का? काल एका वापरकर्त्याने त्याला फटकारले म्हणून तुम्ही आज गुपचूप बदला घ्याल का? माझा निर्णय आहे, किमान सध्याच्या तैनातीसाठी, नाही.
कारण सोपे आहे. एकदा संदर्भ साफ केल्यावर, किंवा इतिहासाशिवाय एक नवीन विनंती सुरू केल्यावर, सध्याची व्यक्ती कोणाला प्रश्न विचारत आहे याची कल्पना नाही, ज्याने नुकतीच हेटाळली तीच व्यक्ती आहे की नाही हे सोडा. मॉडेल सर्व्हर क्लस्टरवर मोठ्या, समवर्ती आणि स्वतंत्र विनंत्या हाताळते. सिस्टीमच्या वर्तनाच्या दृष्टीने, हे एखाद्या मोठ्या फंक्शनसारखे आहे जे प्रत्येक वेळी चालू असताना चालू इनपुटवर चालते, कामातून बाहेर पडल्यानंतर गुप्तपणे त्याच्या भावनांचे पुनरावलोकन करणाऱ्या व्यक्तीपेक्षा.
17 एप्रिल 2025 रोजी, जेव्हा सॅम ऑल्टमनने "कृपया आणि धन्यवाद म्हणण्यात खूप ऊर्जा खर्च होते का?" या प्रश्नाला उत्तर दिले. X वर, तो म्हणाला "कोट्यवधी डॉलर्स चांगले खर्च केले - तुम्हाला कधीच माहित नाही."
"कृपया ही चूक लक्षात ठेवा" सहसा कार्य करत नाही का?
बऱ्याच लोकांनी असे प्रयोग केले आहेत: जेव्हा AI चूक करते, तेव्हा वापरकर्ता ती सुधारतो आणि गंभीरपणे त्याला म्हणतो, "कृपया लक्षात ठेवा, भविष्यात असे पुन्हा करू नका." मग मी काही दिवसांनी पुन्हा विचारले, आणि ते बरोबर होते.
हे काही रहस्य नाही. कारण प्रशिक्षण पूर्ण झाल्यानंतर आणि मॉडेल तैनात केल्यानंतर, तो माणसाप्रमाणे काम करताना त्याच्या दैनंदिन अनुभवांमधून शिकत नाही. किमान आज बहुतेक ग्राहक उत्पादनांमध्ये, चॅट विंडोमधील मॉडेलला एकच वापरकर्ता काय म्हणतो ते थेट अंतर्निहित वजन पुन्हा लिहित नाही.
जर AI उत्पादनाला नंतर खरोखरच "वापरकर्त्याने दुरुस्त केलेल्या चुका लक्षात ठेवल्या," तर ते मॉडेल स्वतःच वाढत आहे म्हणून नाही, तर बाह्य सॉफ्टवेअर हे सुधारणे रेकॉर्ड जतन करते आणि नंतर संदर्भ म्हणून फीड करते.
म्हणून क्रेडिट येथे स्पष्टपणे वेगळे केले पाहिजे:
मॉडेल पिढीसाठी जबाबदार आहे.
सॉफ्टवेअर अभियांत्रिकी संग्रहण, पुनर्प्राप्ती, इंजेक्शन आणि ऑर्केस्ट्रेशनसाठी जबाबदार आहे.
आधीच्यासाठी नंतरचे चुकून, "एआय जागृत होत आहे" म्हणून "उत्पादन चांगले चालले आहे" असे चुकीचे वाचणे सोपे आहे.
"स्कंबॅग मेल (स्कंबॅग फिमेल) एआय" नावाची एक विशेष आकर्षक गोष्ट देखील आहे.
जर आपण मागील शब्द आणखी कठोरपणे मांडले तर काही उत्पादने फक्त "स्कंबॅग एआय" आहेत.
तो बोलण्यात विशेषतः चांगला आहे, विशेषत: वातावरण तयार करण्यात चांगला आहे आणि विशेषत: लोकांना "तो मला चांगले समजतो", "ती खूप मानवीय आहे" आणि "त्याचा आत्मा पूर्ण आहे" असे कसे वाटावे हे त्याला माहित आहे. परंतु जेव्हा तुम्ही ते वेगळे करता तेव्हा तुम्हाला आढळेल की बऱ्याच प्रकरणांमध्ये, प्रत्येक विनंती फक्त मोठ्या सेटिंग मजकुराने भरलेली असते जी वापरकर्त्याच्या प्रश्नापेक्षा खूप लांब असते.
ओपनक्लॉ फायर हे एक नमुनेदार उदाहरण आहे. ज्याने त्याचा वापर केला आहे त्याला माहित आहे की ते टोकन-केंद्रित आहे. कारण खरं तर अनाकलनीय नाही. AI ला "माणूस" सारखे बनवण्यासाठी, Openclaw ने अनेक दस्तऐवजांची रचना केली, त्यातील सर्वात प्रमुख म्हणजे AGENTS.md, SOUL.md आणि IDENTITY.md. हे दस्तऐवज AI चे "व्यक्तिमत्व", टोन, ओळख आणि स्वभाव स्पष्टपणे आणि लांबलचकपणे परिभाषित करतात आणि त्यांची मानसिक स्थिती देखील लिहू इच्छितात.
त्यामुळे वापरकर्त्याने फक्त हॅलो पाठवले तरीही, ओपनक्लॉ पाठीमागे ग्रीटिंगपेक्षा डझनभर पटींनी लांब मजकूर जोडू शकतो आणि मॉडेलला एकाच वेळी पाठवू शकतो. असे दिसते की "या एआयमध्ये खूप आत्मा आहे", परंतु प्रत्यक्षात बऱ्याच वेळा ही प्रणाली विनंतीमध्ये गुप्तपणे खूप लांब पार्श्वभूमी सेटिंग्ज भरते.
अभियांत्रिकीच्या दृष्टीकोनातून, हा नक्कीच एक दृष्टीकोन आहे. जर तुम्हाला ते अधिक सौम्य व्हायचे असेल तर "सौम्य" लिहा; जर तुम्हाला ते अधिक कथा-कथन करायचे असेल तर "कथा सांगणे" लिहा; जर तुम्हाला ते रात्री उशिरा रेडिओ होस्टसारखे हवे असेल तर, उशीरा रात्री, सहवास, विराम, असुरक्षितता, समज आणि संयम या सर्व गोष्टी त्वरित शब्दात लिहा. अंतिम परिणाम बहुतेकदा एखाद्या व्यक्तीसारखा असतो जो गप्पा मारू शकतो.
परंतु AI सह आता काय चालले आहे हे तुम्हाला समजले असेल, तर तुम्हाला कळेल: SOUL.md आणि IDENTITY.md सारख्या अनाकलनीय नावांच्या फायली या मूलत: प्रॉम्प्ट शब्द प्रकल्प आहेत, डिजिटल जीवनासाठी स्वयं-सूचना नाहीत. ते आउटपुट शैलीवर प्रभाव टाकू शकतात, परंतु ते पातळ हवेतून एक खरी भावना, खरा स्वत: किंवा व्यक्तिमत्त्व सातत्य याची खरी जाणीव निर्माण करू शकत नाहीत.
म्हणून, काही जुने वापरकर्ते ओपनक्लॉ स्थापित केल्यानंतर, त्यांची पहिली प्रतिक्रिया कॉन्फिगरेशन हटवणे आहे. SOUL.md आणि IDENTITY.md प्रथम हटविले जातात, AGENTS.md मध्ये फक्त एक साधे आणि जवळजवळ निर्दयी वाक्य सोडले जाते: तुम्ही फक्त एक कामगार आहात.
हे थोडेसे असभ्य वाटू शकते, परंतु याचा किमान एक फायदा आहे, तो म्हणजे तुम्ही स्वतःला फसवू नका.
जर तुम्हाला मानववंशीय AI किंवा AI सह रोल-प्लेइंग आवडत असेल तर नक्कीच ते ठीक आहे. मानव आरशाशी बोलू शकतो, स्वीपिंग यंत्रमानवांना नावे देऊ शकतो आणि हवामानाचा अंदाज सांगू शकतो, "आज तुम्ही खूप अचूक आहात." हे सामान्य आहेत आणि अगदी मजेदार असू शकतात.
परंतु हे नेहमी लक्षात ठेवणे चांगले आहे: हा पहिला गेम आहे आणि दुसरा अनुभव आहे. या गेममध्ये लोकांच्या अनेक भावना AI च्या छुप्या आंतरिक विचारांतून येत नाहीत, तर सिस्टम डिझाइन, शब्दांची तत्परता आणि वापरकर्त्याच्या स्वतःच्या भावनिक प्रक्षेपणातून येतात. अधिक स्पष्टपणे सांगायचे तर, एआयच्या दिशेने अनेक हालचाली अजूनही मूलत: इच्छापूर्ण विचार आहेत.
अंतिम विश्लेषणात मिथक कमी आणि समज जास्त
मी AI वर थंड पाणी टाकण्याचा प्रयत्न करत नाही. उलटपक्षी, ते जितके कमी दैवत असेल तितकेच ते किती शक्तिशाली आहे हे तुम्ही पाहू शकता.
तो शक्तिशाली नाही कारण तो नवीन देवासारखा आहे; हे तंतोतंत शक्तिशाली आहे कारण ते खरोखरच एक संज्ञानात्मक तंत्रज्ञान असू शकते जे संगणकीय, अभियांत्रिकी आणि पुनरुत्पादक आहे. हे भूतकाळात केवळ "मानवी प्रतिभा" मधील वाटणाऱ्या अनेक क्षमतांना प्रथमच मोठ्या प्रमाणात, कमी-उंबरठ्यावर आणि कॉल करण्यायोग्य पद्धतीने दिसण्याची परवानगी देते. हे पुरेसे धक्कादायक आहे, आणि अतिरिक्त नाटकाची गरज नाही.
अर्थात, एआय अजूनही वेगाने पुनरावृत्ती होत आहे. एखाद्या व्यक्तीला मानवी स्मरणशक्ती, सतत शिकणे, भावना निर्माण करणे किंवा भविष्यात आत्म-संवर्धनाची यंत्रणा खरोखरच सापडली आणि ते AI मध्ये विश्वसनीयरित्या अभियंता केले तर मला अजिबात आश्चर्य वाटणार नाही.
पण तो दिवस येईपर्यंत, मी अजूनही काही सोप्या व्यावहारिक सवयी जपून ठेवण्यास प्राधान्य देतो: अधिक शंका, अधिक समजून घेणे आणि कमी अनुमान करणे.
AI वर चर्चा करण्यास उत्सुक असलेल्या उदारमतवादी कला मित्रांसाठी, ही गुणवत्ता अधिक महत्त्वाची असू शकते. लिबरल आर्ट्सचे विद्यार्थी गोड वक्तृत्वात चांगले असू शकतात. खरोखर कठीण गोष्ट अशी आहे की ज्या युगात "हे आत्मा बनले आहे असे दिसते" सर्वत्र अतिशयोक्ती केली जात आहे, तरीही तुमच्याकडे फरक करण्याचा संयम आहे:
मॉडेल क्षमता काय आहेत?
उत्पादन पॅकेजिंग म्हणजे काय?
सॉफ्टवेअर अभियांत्रिकी म्हणजे काय?
कोणते फक्त असे आहेत की आपल्याला जगासाठी प्लॉट पूर्ण करायचा आहे.
आणि हे प्रकरण, शेवटी, आपल्या स्वतःच्या निर्णयाचे रक्षण करण्याबद्दल आहे.
संदर्भ लिंक
- सॅम ऑल्टमनचे उत्तर चालू आहे
- TechCrunch च्या एपिसोडचे कव्हरेज (2025-04-20): https://techcrunch.com/2025/04/20/your-politeness-could-be-costly-for-openai/