केट का वास्तविक जीवन चिकित्सक उसके चैट के उपयोग का प्रशंसक नहीं है। “वह पसंद है, ‘केट, मुझे वादा करें कि आप फिर से ऐसा नहीं करेंगे। आखिरी चीज जो आपको चाहिए वह आपकी उंगलियों पर विश्लेषण करने के लिए अधिक उपकरणों की तरह है। आपको अपनी असुविधा के साथ बैठने के लिए क्या चाहिए, इसे महसूस करें, पहचानें कि आप इसे क्यों महसूस करते हैं।”
ओपनईआई के एक प्रवक्ता, ताया क्रिश्चियनसन ने वायर्ड को बताया कि CHATGPT को एक तथ्यात्मक, तटस्थ और सुरक्षा-दिमाग वाले सामान्य-उद्देश्य वाले उपकरण के रूप में डिज़ाइन किया गया है। यह नहीं है, क्रिश्चियनसन ने कहा, एक मानसिक स्वास्थ्य पेशेवर के साथ काम करने के लिए एक विकल्प। क्रिश्चियनसन ने निर्देशित किया ब्लॉग भेजा कंपनी और एमआईटी मीडिया लैब के बीच एक सहयोग का हवाला देते हुए “कैसे एआई का उपयोग करता है जिसमें भावनात्मक जुड़ाव शामिल है-जिसे हम स्नेहपूर्ण उपयोग कहते हैं-उपयोगकर्ताओं की भलाई को प्रभावित कर सकते हैं।”
केट के लिए, CHATGPT किसी भी आवश्यकता, अनुसूची, दायित्वों या अपनी समस्याओं के बिना एक साउंडिंग बोर्ड है। उसके अच्छे दोस्त हैं, और एक बहन के साथ वह करीब है, लेकिन यह समान नहीं है। वह कहती हैं, “अगर मैं उन्हें चटपट के लिए प्रेरित कर रही थी, तो मैं उनका फोन उड़ा रही थी,” वह कहती हैं। “यह वास्तव में उचित नहीं होगा … मुझे अपनी भावनात्मक जरूरतों के साथ चैट को उड़ाने के आसपास शर्म महसूस करने की आवश्यकता नहीं है।”
सिएटल में रहने वाले एक 36 वर्षीय व्यक्ति एंड्रयू ने अपने परिवार के साथ एक कठिन अध्याय के बाद व्यक्तिगत जरूरतों के लिए चटपट की ओर रुख किया है। जबकि वह अपने चैटगेट के उपयोग का इलाज नहीं करता है “एक गंदे रहस्य की तरह,” वह भी विशेष रूप से इसके बारे में आगामी नहीं है। वे कहते हैं, “मुझे एक चिकित्सक को खोजने में बहुत सफलता नहीं मिली है, जिसके साथ मैं मेष करता हूं।” “और यह नहीं कि किसी भी खिंचाव से चैट एक चिकित्सक के लिए एक सच्चा प्रतिस्थापन है, लेकिन पूरी तरह से ईमानदार होने के लिए, कभी -कभी आपको किसी को अपने मस्तिष्क के सामने बैठने के बारे में बात करने के लिए बात करने की आवश्यकता होती है।”
एंड्रयू ने पहले भोजन की योजना या पुस्तक सारांश जैसे सांसारिक कार्यों के लिए CHATGPT का उपयोग किया था। वेलेंटाइन डे से एक दिन पहले, उसकी तत्कालीन प्रेमिका पाठ संदेश के माध्यम से उसके साथ टूट गई। सबसे पहले, वह पूरी तरह से सुनिश्चित नहीं था कि वह डंप किया गया था। वे कहते हैं, “मुझे लगता है कि हमारे बीच हमारे द्वारा संवाद करने के तरीके में हमेशा एक तरह का डिस्कनेक्ट था,” वे कहते हैं। “(पाठ) ने वास्तव में यह नहीं कहा, ‘अरे, मैं आपके साथ टूट रहा हूं’ किसी भी स्पष्ट तरीके से।”
हैरान, उन्होंने संदेश को चैट में प्लग किया। “मैं बस की तरह था, अरे, क्या वह मेरे साथ टूट गई थी? क्या आप मुझे यह समझने में मदद कर सकते हैं कि क्या चल रहा है,” वे कहते हैं। CHATGPT ने बहुत स्पष्टता की पेशकश नहीं की। “मुझे लगता है कि यह शायद मान्य था क्योंकि यह उतना ही उलझन में था जितना मैं था।”
एंड्रयू के पास करीबी दोस्तों के साथ समूह चैट है जो वह आम तौर पर अपनी समस्याओं के माध्यम से बात करने के लिए बदल जाएगा, लेकिन वह उन्हें बोझ नहीं देना चाहता था। “हो सकता है कि उन्हें एंड्रयू के भद्दे डेटिंग जीवन के बारे में रोने की जरूरत नहीं है,” वे कहते हैं। “मैं इसे बातचीत पर टायर को किक करने के तरीके के रूप में उपयोग कर रहा हूं, इससे पहले कि मैं वास्तव में बाहर जाने के लिए तैयार हो जाऊं और अपने दोस्तों से एक निश्चित स्थिति के बारे में पूछूं।”
एआई के माध्यम से काम करने की समस्याओं की भावनात्मक और सामाजिक जटिलताओं के अलावा, अंतरंग जानकारी का स्तर कुछ उपयोगकर्ता चैट को खिला रहे हैं, गंभीर गोपनीयता चिंताओं को बढ़ाता है। क्या चैट को कभी लीक किया जाना चाहिए, या यदि लोगों के डेटा का उपयोग अनैतिक तरीके से किया जाता है, तो यह लाइन पर केवल पासवर्ड या ईमेल से अधिक है।
“मैंने ईमानदारी से इसके बारे में सोचा है,” केट कहते हैं, जब उनसे पूछा गया कि वह अपने जीवन के निजी विवरण के साथ सेवा पर भरोसा क्यों करती हैं। “हे भगवान, अगर किसी ने सिर्फ मेरा त्वरित इतिहास देखा – तो आप पागल धारणाएँ खींच सकते हैं कि आप कौन हैं, आप किस बारे में चिंता करते हैं, या जो भी हो।”