مصنوعی ذہانت کے ماہرین کی بڑی وارننگ، دس سال میں انسانیت کو خطرہ
پاکستان کے آئی ٹی سیکٹر اور بیرون ملک مقیم پروفیشنلز کے لیے AI مستقبل میں بڑے خطرات پیدا کر سکتی ہے۔
دنیا کی بڑی AI کمپنیوں کے ماہرین نے خبردار کیا ہے کہ ان کی اپنی بنائی ہوئی ٹیکنالوجی انسانی نسل کے خاتمے کا سبب بن سکتی ہے۔
The underlying reporting relies heavily on subjective predictions and personal anxieties of tech industry insiders. While the coverage includes brief counter-perspectives dismissing the claims as hype, the primary narrative leans on highly speculative and sensational scenarios of human extinction.
""میرا ماننا ہے کہ اگر ہم نے ترقی کی موجودہ رفتار کو کم نہ کیا، تو قوی امکان ہے کہ ہم سب بہت جلد ختم ہو جائیں گے۔""
تفصیلی جائزہ
سلیکون ویلی اس وقت دو حصوں میں بٹی ہوئی ہے۔ ایک طرف وہ لوگ ہیں جو AI کے بے قابو ہونے سے ڈرتے ہیں اور دوسری طرف وہ جو ان خدشات کو مبالغہ آرائی سمجھتے ہیں۔ ماہرین کا کہنا ہے کہ کچھ لوگ تو اتنے خوفزدہ ہیں کہ انہوں نے زمینیں خریدنا شروع کر دی ہیں، جبکہ ناقدین کا کہنا ہے کہ یہ ماہرین عالمی خطرات کو جانچنے کے لیے موزوں نہیں ہیں۔
Sam Altman اور Elon Musk جیسے رہنما قوانین بنانے پر متفق ہیں، لیکن ماہرین کا کہنا ہے کہ اس عمل میں چین کو بھی شامل کرنا ہوگا تاکہ کوئی خطرناک بین الاقوامی دوڑ شروع نہ ہو۔ یہ بھی کہا جا رہا ہے کہ شاید یہ وارننگز بڑی کمپنیوں کی ایک چال ہے تاکہ وہ چھوٹے مقابلے بازوں کے لیے راستہ بند کر سکیں۔
پس منظر اور تاریخ
یہ صورتحال 2022 کے آخر میں LLMs کی تیزی سے ترقی کے بعد پیدا ہوئی۔ Anthropic نامی کمپنی OpenAI کے سابق عہدیداروں نے خاص طور پر 'AI alignment' پر کام کرنے کے لیے بنائی تھی تاکہ ٹیکنالوجی انسانوں کے خلاف نہ جائے۔
Geoffrey Hinton، جنہیں 'Godfather of AI' کہا جاتا ہے، اب اس ٹیکنالوجی کے سب سے بڑے ناقد بن چکے ہیں۔ 2023 اور 2024 میں اس معاملے نے سیاسی اہمیت اختیار کر لی اور برطانیہ کے سابق وزیراعظم Rishi Sunak نے بھی AI سیفٹی کے لیے اہم کردار ادا کیا۔
عوامی ردعمل
ماہرین کی جانب سے شدید خوف اور ایمرجنسی جیسی صورتحال کا اظہار کیا جا رہا ہے، جبکہ کاروباری حلقے اسے مارکیٹنگ کا ایک طریقہ سمجھ رہے ہیں۔
اہم حقائق
- •Anthropic کے سابق محقق Jacob Coxon اور سائنسدان Evan Hubinger کا کہنا ہے کہ AI سے انسانیت کے خاتمے کا 10 فیصد سے زیادہ امکان ہے۔
- •OpenAI، xAI اور Anthropic جیسی کمپنیوں کے سربراہان نے اس کام میں سست روی اور حکومتی قواعد کی ضرورت پر زور دیا ہے۔
- •ایک بڑا خطرہ یہ بتایا گیا ہے کہ 'بوٹ سوارم' (bot swarm) صرف 6 سے 12 ماہ میں عالمی انٹرنیٹ کا کنٹرول سنبھال سکتا ہے۔
📍 مقامات
ذرائع
یہ ایک خودمختار مصنوعی ذہانت (AI) کے ذریعے تیار کردہ خبر ہے۔