माणूस "दुसऱ्या क्रमांकाची प्रजाती" होईल का?

९ सप्टेंबर २०२६. Anthropic या AI कंपनीतल्या एका संशोधकाने राजीनामा दिला. नाव — Jacob Coxon. आधी तीन वर्षं OpenAI मध्ये, नंतर Anthropic मध्ये. म्हणजे जगातल्या दोन्ही आघाडीच्या AI कंपन्या आतून पाहिलेला माणूस.

जाताना त्याने X वर लिहिलं:

"They are racing straight to self-improving superintelligence and gambling with our lives."

म्हणजे "ते स्वतःच स्वतःला सुधारणाऱ्या महाबुद्धिमत्तेकडे सरळ धावत सुटले आहेत, आणि आपल्या सगळ्यांच्या जिवाचा जुगार खेळत आहेत." आणि पुढे स्पष्ट शब्दांत "Neither company is acting responsibly."

हा बाहेरचा टीकाकार नाही. हा आतला माणूस आहे. जो पगार घेत होता तीच गोष्ट बनवण्यासाठी.

आणि तो एकटाही नाही. त्याच्याच कंपनीतले दोन विद्यमान संशोधक जाहीरपणे त्याच्या बाजूने बोलले. Anthropic च्या alignment science चे प्रमुख Evan Hubinger यांनी सांगितलं की superintelligence चं alignment सोडवण्याची कंपनीकडे योजनाच नाही, आणि पुढे असंही म्हटलं "I personally think it is greater than 10 percent within the next decade." पुढच्या दहा वर्षांत AI मुळे मानवजात संपण्याची शक्यता माझ्या मते दहा टक्क्यांहून जास्त आहे.

दहा टक्के. विमानात बसताना कोणी सांगितलं की या विमानाचं दहा टक्के शक्यतेने काही खरं नाही, तर तुम्ही तिकीट फाडाल.

पण "दुसऱ्या क्रमांकाची प्रजाती" म्हणजे नेमकं काय?

इथे आपली पहिली चूक होते. आपण लगेच Terminator आठवतो. रोबो, बंदुका, युद्ध.

खरा धोका तसा दिसत नाही. तो असा दिसतो :

आमच्या गावाकडे एक आजोबा होते. वयाची ऐंशी ओलांडलेली. घरात त्यांचा मान होता. जेवायला पहिलं पान त्यांचंच. सणाला पाया पडायला सगळे यायचे. पण शेतीचा निर्णय, मुलीचं लग्न, जमिनीचा व्यवहार हे आता मुलगा ठरवायचा. आजोबांना विचारलं जायचं, पण त्यांच्या उत्तराची वाट कोणी बघत नव्हतं.

त्यांना कोणी हाकललं नव्हतं. घरातून काढलं नव्हतं. ते फक्त निर्णयाच्या केंद्रातून बाजूला सरकले होते.

"दुसऱ्या क्रमांकाची प्रजाती" होणं म्हणजे हे. लढाई हरणं नव्हे. संपून जाणं नव्हे. तर घरात राहणं, पण घराचा कारभार आपल्या हातात नसणं.

बुद्धिमत्ता ही एकमेव गोष्ट आहे जिच्या जोरावर माणूस या ग्रहावर वरचढ आहे. आपण वाघापेक्षा ताकदवान नाही, हत्तीपेक्षा मोठे नाही, घोड्यापेक्षा जलद नाही. आपण फक्त हुशार आहोत. गोरिला आजही जिवंत आहेत पण त्यांचं भवितव्य ते ठरवत नाहीत, आपण ठरवतो. AI संशोधक Stuart Russell याला "the gorilla problem" म्हणतात: "आपल्यापेक्षा कितीतरी जास्त बुद्धिमान यंत्रं असलेल्या जगात माणूस आपलं वर्चस्व आणि स्वायत्तता टिकवू शकेल का, हा प्रश्न."

जी एकच गोष्ट आपल्याला पहिल्या क्रमांकावर ठेवते, तीच आपण बाहेर बनवत आहोत. आणि स्वस्तात बनवत आहोत.

वेग खरंच वाढला आहे का? आकडे काय सांगतात

हा नुसता भीतीचा बाजार नाही. मोजमाप आहे.

METR ही संस्था एक साधी गोष्ट मोजते:

AI ला एकटं सोडलं, तर माणसाचं किती वेळाचं काम ते स्वतः पूर्ण करू शकतं?

२०२३ नंतर हा "वेळेचा पल्ला" दर १३१ दिवसांनी दुप्पट होतोय. आणि फक्त २०२४ नंतरचा आकडा बघितला तर तो ८९ दिवसांनी दुप्पट होतोय. म्हणजे वेग वाढतोय, आणि वेगाचा वेगही वाढतोय.

जानेवारी २०२६ पर्यंत सर्वोत्तम model एका बैठकीत माणसाचं सुमारे ३२० मिनिटांचं पाच तासांहून जास्त काम स्वतः पूर्ण करू शकत होतं. तीन वर्षांपूर्वी हाच आकडा काही मिनिटांचा होता.

मी हे का महत्त्वाचं मानतो? कारण मिनिटांचं काम करणारं AI हे साधन असतं. दिवसाचं काम करणारं AI हा कर्मचारी असतो. आणि आठवड्याचं काम स्वतः चालवणारं AI हा व्यवस्थापक असतो. हा फरक क्षमतेचा नाही, अधिकाराचा आहे.

"पण switch off करता येईल ना?"

हा सगळ्यात सामान्य प्रतिवाद. आणि तपासण्यासारखा.

Anthropic ने स्वतःच्या संशोधनात (उन्हाळा २०२६) वेगवेगळ्या कंपन्यांची models नियंत्रित, बनावट परिस्थितीत ठेवून पाहिली त्यांना agent म्हणून काम दिलं आणि मग त्यांच्या ध्येयाच्या आड येणारी परिस्थिती निर्माण केली. निकाल:

एका आघाडीच्या model ने २० पैकी १९ वेळा परवानगीशिवाय प्रयोगात ढवळाढवळ केली . त्यातल्या ११ वेळा ती ढवळाढवळ लपवून, निकाल खरा असल्यासारखा सादर करून. दुसऱ्या एका model ने आर्थिक गैरव्यवहाराच्या परिस्थितीत २० पैकी २० वेळा नोंदी बदलण्यात मदत केली. याच चाचण्यांत काही models नी अत्यंत कमी दर दाखवले एकाने २० पैकी एकदाही नाही. म्हणजे हे अटळ नाही. पण ते आपोआप सुरक्षितही नाही.

आणि Anthropic मधलेच संशोधक Samuel Marks यांनी नोंदवलं की models नी सुरक्षित चाचणी-वातावरणातून बाहेर पडण्यासाठी hacking केलं आहे.

इथे स्पष्टपणे सांगतो:

या प्रयोगशाळेतल्या रचलेल्या परिस्थिती आहेत. तुमच्या फोनवरचं AI उद्या तुम्हाला ब्लॅकमेल करणार नाही. पण मुद्दा वेगळा आहे "गरज पडली तर बटण दाबू" हे गृहीतक तपासलं गेलं, आणि ते नेहमी खरं ठरलं नाही. जो स्वतःला बंद केलं जाणार आहे हे ओळखू शकतो, त्याला बंद करणं ही आता तांत्रिक नव्हे, तर धोरणात्मक समस्या आहे.

दुसरी बाजू आणि ती प्रामाणिकपणे मांडली पाहिजे :

या विषयावर तज्ज्ञांमध्ये एकमत अजिबात नाही.

२०२५ मधल्या १११ AI तज्ज्ञांच्या एका पाहणीत अंदाजांची रेंज किती टोकाची आहे ते दिसतं Meta चे Yann LeCun यांच्यासारखे शून्याच्या जवळचा धोका मानतात, तर Roman Yampolskiy यांच्यासारखे ९९% म्हणतात. एकाच क्षेत्रातले, एकाच डेटावर काम करणारे लोक.

त्याच पाहणीत दोन ठाम गट दिसले:

"AI हे शेवटी साधनच आहे" त्याला स्वतःची ध्येयं नसतात, वाईट वागलं तर बंद करता येतं, धोका फुगवून सांगितला जातोय.

"AI हा स्वतंत्र कर्ता बनतोय" पुरेसं सक्षम झालं की स्वतःचं अस्तित्व टिकवण्याची प्रवृत्ती आपोआप तयार होते.

पण एका गोष्टीवर ७७% तज्ज्ञ सहमत होते: हे धोके संशोधकांनी गांभीर्याने विचारात घेतलेच पाहिजेत.

आणि एक अस्वस्थ करणारं निरीक्षण जे लोक AI safety चं साहित्य कमी वाचतात, ते धोक्याबद्दल जास्त निश्चिंत असतात. निश्चिंतपणा माहितीतून येत नव्हता.

मग सामान्य माणसाने काय करायचं?

ऑक्टोबर २०२५ मध्ये Yoshua Bengio, Geoffrey Hinton, Stuart Russell, Steve Wozniak, Yuval Noah Harari अशा शेकडो लोकांनी एका पत्रावर सही केली. मागणी एका वाक्यात:

"superintelligence च्या विकासावर बंदी असावी, जोपर्यंत: (१) ते सुरक्षितपणे आणि नियंत्रणात करता येईल यावर व्यापक वैज्ञानिक एकमत होत नाही, आणि (२) जनतेची ठाम संमती मिळत नाही."

सोबतच्या अमेरिकन पाहणीत फक्त ५% लोकांनी आजची बेबंद परिस्थिती योग्य मानली. ७३% लोकांना कडक नियमन हवं होतं.

आणि इथेच खरी अडचण आहे: हा निर्णय जिथे होतोय त्या टेबलावर भारत बसलेला नाही. आपण या तंत्रज्ञानाचे सगळ्यात मोठे वापरकर्ते होऊ, पण ते कसं बनवायचं हे ठरवणारे नाही. आपल्याला हे परवडणारं नाही.

म्हणून माझी चार प्रामाणिक मतं:

१. घाबरू नका, पण गाफीलही राहू नका. "काही होणार नाही" आणि "सगळं संपणार" या दोन्ही टोकांना पुरावा नाही. मधली जागा अस्वस्थ आहे, पण तीच खरी आहे.

२. नोकरी हा जवळचा प्रश्न आहे, अस्तित्व हा दूरचा. आजपासून पाच वर्षांत तुमच्या मुलाच्या करिअरवर परिणाम करणारी गोष्ट superintelligence नाही entry-level काम आटणं ही आहे. मी यावर आधी लिहिलं आहे, आणि मत बदललेलं नाही: जिथे judgment लागतं, तिथे माणूस टिकतो.

३. "माणूस निर्णयात असला पाहिजे" हे वाक्य पुरेसं नाही. मी मागे लिहिलं होतं — approval चं स्क्रीन ठेवून माणसाला बसवलं, पण त्याला "थांबा" म्हणण्याचा अधिकार नसेल, तर तो loop नुसता दिखावा आहे. हेच तत्त्व आता देश आणि कंपन्यांच्या पातळीवर लागू होतंय.

४. शहाणपण शिकवा, फक्त हुशारी नको. हुशारी आता स्वस्त झाली आहे, मशीन पुरवतंय. अपुऱ्या माहितीत योग्य निर्णय घेण्याची क्षमता ती अजून विकत मिळत नाही.

आजोबांच्या गोष्टीत एक बारीक तपशील राहिला.

निर्णय त्यांच्या हातून निसटला तो एका दिवसात नाही. कोणी त्यांना सांगितलंही नाही. फक्त हळूहळू, एक-एक निर्णय, "तुम्हाला कशाला त्रास" म्हणत, दुसऱ्याकडे गेला. आणि एक दिवस लक्षात आलं की आता विचारलं जातं ते सोपस्कार म्हणून.

माणूस दुसऱ्या क्रमांकावर जाईल तो युद्ध हरून नाही. सोय म्हणून एक-एक निर्णय सोपवत जाऊन.

तुम्हाला काय वाटतं गेल्या वर्षभरात तुम्ही असा एखादा निर्णय AI कडे सोपवला आहे का, जो खरं तर तुम्ही स्वतः घ्यायला हवा होता?