कोको एप्लिकेशन जरूरतमंद लोगों को भावनात्मक समर्थन प्रदान करने, उपयोग करने के लिए उपयोगी है कृत्रिम होशियारी (आईए) मरीजों को सूचित किए बिना। कुल मिलाकर, 4,000 मरीज़ों को यह जानकारी दिए बिना देखा गया कि उन्हें मशीन द्वारा परामर्श दिया गया था।
यह खोज तभी हुई जब रॉब मॉरिस, के सह-संस्थापक थे ट्विटर, ने खुलासा किया कि इसने नए फ़ंक्शन के साथ एक तरह का शोध किया। जनता को यह बताते समय मॉरिस उत्साहित लग रहे थे कि उनका प्रोजेक्ट अच्छा चल रहा है, लेकिन उन्हें कठोर आलोचना मिली।
और देखें
पत्रकारों की मदद के लिए Google ने AI टूल विकसित किया...
2007 का बिना खुला मूल iPhone लगभग $200,000 में बिका; जानना...
ट्विटर के सह-संस्थापक ने बताया कि GPT-3 का उपयोग करके ग्राहकों के साथ लगभग 30,000 संदेश साझा किए गए, जो कि ChatGPT, एक प्रकार की आर्टिफिशियल इंटेलिजेंस का आधार है।
यह एक ऐसा परीक्षण था जो सीधे तौर पर अमेरिकी स्वास्थ्य विभाग द्वारा दी गई अनुमति का उल्लंघन करता था। यह नए फ़ंक्शन के लिए एक शोध था, लेकिन रोगियों को इसके उपयोग के बारे में चेतावनी देने की आवश्यकता थी तकनीकी.
आर्टिफिशियल इंटेलिजेंस के उपयोग के बारे में ट्विटर पर घोषणा के बाद, मॉरिस की नेटिज़न्स द्वारा भारी आलोचना की गई। कोको उन लोगों के लिए सहायता के रूप में काम करता है जिन्हें मनोवैज्ञानिक उपचार की आवश्यकता होती है और वे एप्लिकेशन के माध्यम से सीधे पेशेवरों से सहायता चाहते हैं।
तकनीकी परीक्षण करना अनैतिक माना जाता है, जैसा कि ट्विटर उपयोगकर्ताओं ने स्वयं चेतावनी दी है। स्वास्थ्य क्षेत्र में अनुसंधान करने वाले पेशेवरों ने साबित कर दिया है कि यह एक ऐसा रवैया है जिसे नहीं अपनाया जाना चाहिए।
खुद का बचाव करने के प्रयास में, मॉरिस ने बताया कि ये परीक्षण केवल कंपनी के लिए होंगे और प्राप्त परिणामों का कोई खुलासा नहीं किया जाएगा। अपने बचाव में सामने आने के बाद, मूल्यांकन में भाग लेने वाले एक डॉक्टर ने बताया कि जिस तरह से शोध किया गया, उससे कमजोर लोग उजागर हुए।
मॉरिस के अनुसार, जब एआई द्वारा प्रश्न पूछे गए तो परीक्षण के नतीजों को बेहतर रेटिंग मिली। आर्टिफिशियल इंटेलिजेंस का इस्तेमाल किया गया था जीपीटी-3, अन्य लोगों के ग्रंथों को पुन: प्रस्तुत करने और चुने गए डेटा में बड़ी अशुद्धि पैदा करने में सक्षम।
एक बार जब मरीज़ों को पता चला कि उन्हें तैयार प्रतिक्रियाएं मिल रही हैं, तो उन्होंने रुचि खो दी।
फ़िल्मों और श्रृंखलाओं तथा सिनेमा से जुड़ी हर चीज़ का प्रेमी। नेटवर्क पर एक सक्रिय जिज्ञासु, हमेशा वेब के बारे में जानकारी से जुड़ा रहता है।