books a potential threat to human existence
If you do not find what you're looking for, you can use more accurate words.
تهديد محتمل للوجود الإنساني (Info)
قد يكون لإنشاء الذكاء العام المصطنع تداعيات كبيرة ومعقدة لدرجة أنه قد لا يكون من الممكن التنبؤ بما سيحدث بعد ذلك. وبالتالي فإن الحدث في المستقبل الافتراضي لتحقيق الذكاء الاصطناعى القوي يسمى التفرد التكنولوجي، لأنه من الناحية النظرية لا يمكن للمرء أن يرى ماضيه. لكن هذا لم يمنع الفلاسفة والباحثين من تخمين ما يمكن أن تفعله أجهزة الكمبيوتر الذكية أو الروبوتات في المستقبل، بما في ذلك تشكيل يوتوبيا من خلال كوننا أصدقاء لنا أو تغلبنا في استيلاء على الذكاء الاصطناعى. الاحتمال الأخير مثير للقلق بشكل خاص لأنه يشكل خطراً على وجود البشرية .
آلات التكرار الذاتي
ستكون أجهزة الكمبيوتر الذكية أو الروبوتات قادرة على تصميم وإنتاج إصدارات محسّنة من نفسها.يمكن أن يتصور عدد متزايد من الرجال الآليين الأذكياء البشر الأقل شأنا في أسواق العمل، والأعمال التجارية، والعلوم، والسياسة (متابعة حقوق الإنسان الآلي )، والتكنولوجي، والسوسيولوجي ( عن طريق العمل كواحد )، وعسكريا. حتى في الوقت الحاضر، تم بالفعل شغل العديد من الوظائف من قبل آلات ذكية زائفة مدعومة بضعف الذكاء الاصطناعي. على سبيل المثال، قامت روبوتات المنازل والرعاية الصحية والفنادق والمطاعم بأتمتة أجزاء كثيرة من حياتنا: تعمل برامج الروبوت الافتراضية على تحويل خدمة العملاء إلى خدمة ذاتية، ويتم استخدام تطبيقات البيانات الكبيرة AI لاستبدال مديري المحافظ، والروبوتات الاجتماعية مثل بيبر تستخدم لتحل محل الإنسان تحيات لغرض خدمة العملاء.
الذكاء الخارق الناشئ
إذا أنتجت الأبحاث في الذكاء الاصطناعى القوي برمجيات ذكية بدرجة كافية، فستكون قادرة على إعادة برمجة وتحسين نفسها - وهي ميزة تسمى "التحسين الذاتي العودي". عندها سيكون الأمر أفضل في تحسين نفسه، ومن المحتمل أن يستمر في ذلك في دورة تتزايد بسرعة، مما يؤدي إلى انفجار استخباراتي وظهور ذكاء فائق. مثل هذه الذكاء لن يكون لها حدود في الفكر الإنساني، وقد تكون قادرة على اختراع أو اكتشاف أي شيء تقريبًا.
قد لا تقرر البرامج فائقة الذكاء بالضرورة دعم استمرار وجود الجنس البشري، وقد يكون من الصعب للغاية إيقافها. وقد بدأ هذا الموضوع أيضًا في الآونة الأخيرة في مناقشته في المنشورات الأكاديمية كمصدر حقيقي للمخاطر التي تهدد الحضارة والبشر وكوكب الأرض .
أحد الاقتراحات للتعامل مع هذا هو التأكد من أن الذكاء الاصطناعى الأول الذكي عمومًا هو الذكاء الاصطناعى الودود الذي يسعى بعد ذلك إلى التأكد من أن الذكاء الاصطناعى الذي تم تطويره لاحقًا كان لطيفًا أيضًا بالنسبة لنا. ولكن من الصعب إنشاء الذكاء الاصطناعى الودي أكثر من AGI العادي، وبالتالي فمن المحتمل، في سباق بين الاثنين، أن يتم تطوير الذكاء الاصطناعي غير الودود أولاً. أيضا، ليس هناك ما يضمن أن منظمة العفو الدولية الودية ستبقى ودية، أو أن ذريتها ستكون كلها جيدة.
