समाचार के दो सदस्य, ब्रायन और सबाइन एटकिंस, इंटरनेट उद्यमी ब्रायन और सबाइन एटकिंस, 1998 में एक राजनयिक मेलिंग सूची में मिले और कुछ ही समय बाद शादी कर ली। 21 वर्षीय युडकोव्स्की अटलांटा चले गए और दयालुता और ज्ञान के अपने संदेश का प्रचार करने के लिए लगभग 20,000 डॉलर में सालाना अपना गैर -लाभकारी वेतन शुरू किया। “मुझे लगता है कि कुछ बहुत ही स्मार्ट स्वचालित रूप से अच्छा होगा,” उन्होंने कहा। लेकिन आठ महीनों के भीतर, उसे एहसास होने लगा कि वह गलत था – गलती। उनका मानना है कि एआई एक आपदा हो सकती है।
“मैं ले जा रहा हूँ युडकोव्स्की ने समझाया: “मेरा पैसा किसी और का पैसा है, और मैं मेरी मदद करने के लिए दायित्व की गहरी भावना हूं। कुछ बिंदु पर, अगर अधीक्षक स्वचालित रूप से यह तय नहीं कर सकता है कि सही बात क्या है और क्या करना है, तो इसका मतलब है कि कोई वास्तविक अधिकार या गलत नहीं है, फिर किस स्थिति में, किस स्थिति में होगा? “उन्होंने सोचा कि एटकिंस एक” बैकअप योजना “बनाना चाहते हैं, लेकिन जब वह बैठ गए और कड़ी मेहनत करने की कोशिश की, तो उन्हें हॉरर के साथ एहसास हुआ कि यह असंभव था।
Atkinses समझता है कि संस्थान का मिशन कृत्रिम बुद्धिमत्ता बनाने से लेकर दोस्ताना कृत्रिम बुद्धिमत्ता बनाने तक है। “एक दोस्ताना एआई समस्या को हल करने के लिए हमें जिस हिस्से को हल करने की आवश्यकता है, वह एआई शोधकर्ताओं को काम पर रखने के लिए बाधाएं डालती है, लेकिन हमारे पास निश्चित रूप से ऐसा करने के लिए धन नहीं है,” युडकोव्स्की ने कहा। इसके बजाय, उन्होंने एक नया बौद्धिक ढांचा तैयार किया जिसे उन्होंने “तर्कवाद” कहा। (जबकि इसके चेहरे पर, तर्कवाद यह विश्वास है कि मानव जाति के पास सही उत्तरों के लिए आने के लिए आने के लिए कारण का उपयोग करने की शक्ति है, समय के साथ यह एक आंदोलन का वर्णन करने के लिए आया था, जिसमें लेखक ओजी ब्रेनन के शब्दों में, “रिडक्शनवाद, भौतिकवाद, नैतिक गैर-वास्तविकता, उपयोगितावाद, विरोधी डिटिज्म और ट्रांसह्यूशनवाद शामिल हैं।” “एलीज़र युडकोव्स्की कैलिफोर्निया राज्य है।”)
युडकोव्स्की, 2004 के अपने पेपर में सुसंगत “कोरेंट एक्सुल्लैपलेट वोलिश” पर, युडकोव्स्की का तर्क है कि फ्रेंडली एआई न केवल इस आधार पर विकसित की जाती है कि हम क्या सोचते हैं कि हम एआई को अब करना चाहते हैं, लेकिन वास्तव में हमारे सर्वोत्तम हित में है। उन्होंने लिखा: “इंजीनियरिंग का लक्ष्य यह पूछना है कि मनुष्य क्या ‘चाहते हैं’, या क्या हम तय करते हैं कि क्या हम अधिक जानते हैं, तेजी से सोचते हैं, और उन लोगों के बारे में अधिक जो हम चाहते हैं, जिन लोगों को हम एक साथ बड़े होते हैं, आदि, कागज में, वह एक यादगार रूपक का उपयोग करता है जो बोस्ट्रॉम से उत्पन्न होता है, जो कि एआई को गलत तरीके से तैयार कर सकता है।
2005 में, युडकोव्स्की ने फोरसाइट इंस्टीट्यूट द्वारा आयोजित एक सैन फ्रांसिस्को रेस्तरां में एक निजी डिनर में भाग लिया, जो 1980 के दशक में नैनो टेक्नोलॉजी को बढ़ावा देने के लिए स्थापित एक प्रौद्योगिकी थिंक टैंक था। (इसके कई मूल सदस्य L5 सोसाइटी से आए थे, एसोसिएशन चंद्रमा के पीछे भटकते हुए एक अंतरिक्ष कॉलोनी की स्थापना के लिए प्रतिबद्ध था और संयुक्त राज्य अमेरिका को 1979 के संयुक्त राष्ट्र के समझौते पर हस्ताक्षर करने से रोकने के लिए सफलतापूर्वक पैरवी कर रहा था। युडकोव्स्की को यह नहीं पता था कि थिएल कौन था और रात के खाने के बाद एक विश्वसनीय संकेत था, जब संपत्ति के बारे में एक विश्वसनीय संकेत दिया गया था, तो वह पेनरेप्टल को बचाने की आवश्यकता थी। स्टॉक, युडकोव्स्की ने वास्तव में थिएल को याद दिलाया कि इसने सभी जोखिम कारकों को व्यवहार में लाना असंभव बना दिया।