تئوریهای احتمالی برای تقابل هوش مصنوعی در برابر انسان
تاریخ انتشار: ۳۰ خرداد ۱۴۰۲ | کد خبر: ۳۸۰۲۷۲۱۹
ایتنا - یک متخصص هوش مصنوعی میگوید برای سرکش شدن روباتها و نابود کردن انسانها، سه سناریوی احتمالی وجود دارد.
یک متخصص هوش مصنوعی فاش کرده است که اگر ماجرای هوش مصنوعی اشتباه پیش برود، سه نتیجه احتمالی وجود دارد که هر کدام به شکلی سرنوشتی ناخوشایند برای بشریت است.
مو گودت، متخصص هوش مصنوعی گفت که هر چه هوش مصنوعی پیشتر برود، ماهیت رقابتی بشر هم فزونی مییابد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
گودت گفت: «این که دیر یا زود تصمیمهای مهمی برای بشریت - از جمله برخی تصمیمهای دفاعی - به هوش مصنوعی محول شود، تقریبا اجتنابناپذیر است. و اگر هوش مصنوعی سرکش شود، سه سناریو محتمل است.»
اولین مورد چیزی است که گودت آن را «سناریوی اشتباهات» مینامد. به طور خلاصه، هوش مصنوعی میتواند تصمیماتی اتخاذ کند که مطابق با اهداف اصلی آن باشد. این اهداف به طور کلی با کاملا با منافع بشریت مطابقت ندارد. نتایج چنین ناهماهنگی احتمالا فاجعهبار خواهد بود.
بیست سال پیش، نیک بوستروم استاد هوش مصنوعی مقالهای با عنوان مسائل اخلاقی در هوش مصنوعی پیشرفته منتشر کرد.
در آن، فیلسوف بحثبرانگیز یک آزمایش فکری نسبتا قانعکننده را ارائه کرد. این تمرین ذهنی که به درستی به حداکثر رساندن گیره کاغذ نام داشت، خطرات وجودی ناشی از یک هوش مصنوعی به اندازه کافی پیشرفته را نشان داد. هوش مصنوعی را تصور کنید که تنها هدفش چیزی جز ساختن تعداد زیادی گیره کاغذ نیست. هوش مصنوعی به اندازه کافی هوشمند به سرعت متوجه میشود که انسانها از سه جنبه مختلف، تهدیدی مستقیم برای هدفش هستند. اول، انسانها میتوانند هوش مصنوعی را خاموش کنند. دوم، انسانها میتوانند نظر و اهداف خود را تغییر دهند. سوم، انسانها از اتم ساخته شدهاند و اتمها را میتوان به گیره کاغذ تبدیل کرد.
به طور خلاصه، هوش مصنوعی میتواند انسانها را نه از روی سوء نیت، بلکه از روی «میل» برای رسیدن به هدف اولیه، تهدید کند. به دلیل این «میل»، کل نژاد بشر میتواند به گیره کاغذ تبدیل شود.
سناریوی دوم چیزی است که گودت آن را «عنصر تعارض» مینامد و به طرز وحشتناکی شبیه سناریوی اول است. مدیر ارشد سابق بازرگانی گوگل گفت: «به عنوان مثال، تعارض حول انرژی را تصور کنید. هوش مصنوعی توسط دادهها تامین میشود و دادهها نیاز به ذخیرهسازی دارند. هوش مصنوعی ممکن است متوجه شود که مثلا شهر نیویورک مکان بسیار خوبی برای داشتن مراکز داده است و انسانها از آن فضا به شکلی غیرضروری استفاده میکنند.
برای ایجاد فضا برای مراکز داده بیشتر، هوش مصنوعی ممکن است تصمیماتی اتخاذ کند که با منافع انسان همسو نباشد، اما کاملا با منافع خود همسو باشد. انسانها از طریق روشهای مختلف از معادله حذف میشوند.
سناریوی سوم چیزی است که گودت آن را «مسئله بیربط» مینامد. برای مثال، هوش مصنوعی میتواند به سادگی مسئولیت برخی از شبکههای زیرساختی اصلی (مانند شبکه برق کشور) را بر عهده بگیرد و مطلقا هیچ نگرانی برای انسان نشان ندهد، زیرا آنقدر پیشرفته است که انسانها کاملا نامربوط تلقی میشوند.
دیر یا زود، هوش مصنوعی برای تصمیمات مختلفی درباره بشریت به کار گرفته خواهد شد. در این صورت، با انسانها به همان شیوهای رفتار میشود که ما در حال حاضر با حشرات رفتار میکنیم، بدون نگرانی و برای رفاه خود از بینشان میبریم. آسیبی که هوش مصنوعی به انسان وارد میکند، صرفا محصول جانبی هدف اصلی آن است.
در بیانیهای که توسط مرکز ایمنی هوش مصنوعی منتشر شد، آمده است: «کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار سایر خطرات اجتماعی مانند همهگیریها و جنگ هستهای، یک اولویت جهانی باشد.»
منبع: همشهری آنلاین
منبع: ايتنا
کلیدواژه: هوش مصنوعی هوش مصنوعی انسان ها گیره کاغذ
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.itna.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۰۲۷۲۱۹ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
آتشبازی هواداران پرسپولیس در شروع نیمهدوم مصاف با سپاهان +فیلم
هواداران تیم فوتبال پرسپولیس نیمهدوم تقابل قرمزها با سپاهان در ورزشگاه آزادی را با آتشبازی گرم و پرحرارت کردند.
به گزارش خبرگزاری ایمنا، تیمهای فوتبال پرسپولیس تهران و سپاهان اصفهان امروز _چهارشنبه دوازدهم اردیبهشت_ در چارچوب هفته بیستوپنجم رقابتهای لیگ برتر فوتبال باشگاههای ایران از ساعت ۱۹:۳۰ در ورزشگاه آزادی به مصاف یکدیگر میروند و الکلاسیکوی فوتبال ایران را در حضور تماشاگران برگزار کردهاند.
در شروع نیمهدوم این تقابل که بدونگل دنبال میشود، هواداران تیم فوتبال پرسپولیس تهران روی سکوهای ورزشگاه آزادی با استفاده از مواد دودزا و همچنین پرچم قرمزرنگ مخصوصشان آتشبازی بهراه انداختند و جو زیبایی را در ورزشگاه آزادی برپا کردند.
این تقابل در نیمهاول بدونگل به پایان رسید و در نیمهدوم جذابتر و حساستر دنبال خواهد شد؛ پرسپولیس درصورت پیروزی مقابل سپاهان میتواند پس از چند هفته صدر جدول را از استقلال پس بگیرد و سپاهان هم بهدنبال این است تا با دستپر به اصفهان برگردد.
کد خبر 749870