چهارشنبه 21 آذر 1397

بنیاد ملی نخبگان

بنیاد نخبگان استانها

بنیاد نخبگان استانها

پیوندها

تهدید هوش مصنوعی برای بقای بشریت چقدر جدی است؟

يکي از تهديدات تکنولوژي که به لطف صنعت سينما با آب و تاب فراوان به آن پرداخته شده، مفهوم هوش مصنوعي است؛ زماني که کامپيوترها آن‌قدر هوشمند باشند که تصميم بگيرند زمام امور را به دست بگيرند.

يکي از تهديدات تکنولوژي که به لطف صنعت سينما با آب و تاب فراوان به آن پرداخته شده، مفهوم هوش مصنوعي است؛ در زماني که کامپيوترها آن‌قدر هوشمند باشند که تصميم بگيرند زمام امور را به دست بگيرند و از شر مزاحمين انساني راحت شوند. آيا اين تهديد واقعيت دارد و ما بايد واقعا نگران خطرات هوش مصنوعي باشيم؟

پایگاه اطلاع‌رسانی بنیاد ملی نخبگان: به نظر مي‌رسد نگراني اساسي اين‌جاست که با پيشرفت دانش در زمينه هوش مصنوعي، زماني که به آنچه «يکتايي يا Singularity» شهرت يافته است، برسد؛ يعني نقطه‌عطفي در زمينه هوش مصنوعي که از آن به بعد خودش زمينه رشد و هوشمندتر شدن خودش را فراهم مي‌آورد؛ يعني هوشمندي ديجيتالي، مستقل از ما انسان‌ها، باهوش‌تر مي‌شود. و اگر يک ماشين به صورت دائم نسخه‌اي بهتر و ارتقايافته از خودش را بسازد، مانند حذف شدن چفت و بند کابل‌هاي تکنولوژي است و به اين ترتيب رايانه‌ها به درجه‌اي از هوشمندي مي‌رسند که ديگر غيرقابل کنترل مي‌شوند. از آن زمان، مغز کوچک ما از توانايي درک آنچه کامپيوترها انجام مي‌دهند، عاجز مي‌ماند. به نظر ترسناک مي‌آيد!

روزي اين اتفاق رخ ميدهد؟

بسياري از بزرگان فناوري و علم نظر خود را درباره اين موضوع بيان داشته‌اند. استيون ‌هاوکينگ، يکي از مشهورترين دانشمندان امروز دنيا، درباره هوش مصنوعي در «اينديپندنت» مي‌نويسد: «مي‌توان تصور کرد چنين فناوري زماني بر بازارهاي سرمايه، پژوهشگران، مديران و رهبران غلبه کند و اسلحه‌هايي بسازد که ما از آن‌ها سر درنمي‌آوريم. در کوتاه زمان، اثرات هوش مصنوعي بستگي به کساني دارد که آن را کنترل مي‌کنند اما در بازه زماني طولاني به اين وابسته است که آيا اصلا قابل کنترل خواهد بود؟» الون ماسک، ميلياردر و مديرعامل شرکت «تسلا»، هم نگراني‌هايي درباره از کنترل خارج شدن هوش مصنوعي دارد و حدود 10 ميليون دلار براي مطالعاتي که اين پديده را بي‌خطر و امن کند، اختصاص داده است. بيل گيتس هم در مورد هوش مصنوعي اظهارنظر کرده است. او مي‌گويد: «در حال حاضر کامپيوترها خيلي کارها را براي ما انجام مي‌دهند اما ابرهوشمند نيستند. اما در آينده رايانه‌هاي ابرهوشمند خواهيم داشت و من متوجه نمي‌شوم چرا کسي نگران اين موضوع نيست؟» شرکت «مايکروسافت» همچنان مشغول مطالعه و پژوهش روي هوش مصنوعي است. شرکت «اپل» هم درباره هوش مصنوعي با احتياط سخن مي‌گويد. اپل هم خود پروژه‌هاي تحقيقاتي ويژه‌اي را به هوش مصنوعي اختصاص داده است.

کامپيوترهاي کنوني چقدر هوشمند هستند؟

اگر راستش را بخواهيد، بيشتر غول‌هاي دنياي ديجيتال سخت مشغول فعاليتند تا ماشين‌هايي هوشمندتر بسازند. «گوگل» و «سيري» تعدادي از فناوري‌هاي پيچيده مانند فراوري زبان طبيعي (درک آنچه صداهاي ما مي‌گويد) و تشخيص متن (آنچه کلمات ما معني مي‌دهند) را با هم تلفيق کرده‌اند. فيسبوک هم در حال تجربه هوش مصنوعي است‌؛ با ساختن روباتي به نام «ام» که به کاربران امکان مي‌دهد تنها با صحبت کردن با او کارهاي مختلفي انجام دهند، مثلا بليت هواپيما رزرو کنند در حالي که انگار در حال صحبت با کارمند فروش يکي از خطوط هوايي هستند! دليل ظهور اين فناوري‌ها افزايش قدرت محاسبه و پردازش، ذخيره‌سازي داده و شبکه‌هاي نوروني (دقيقا مشابه آنچه در سلول‌هاي عصبي ما در مغز اتفاق مي‌افتد) است. اين مورد آخر يکي از مهره‌هاي کليدي تکنولوژيک براي رسيدن به «يکتايي» است؛ يعني کامپيوتر‌ها ياد مي‌گيرند چگونه شما به آن‌ها ياد مي‌دهيد تا بهتر شوند. يکي از قدم‌هاي نوين و بزرگ به تازگي توسط گوگل برداشته شده است؛ زماني که پروژه هوش مصنوعي «آلفاگو» (AlphaGo) توانست بهترين حريفان انساني را در بازي شطرنج شکست دهد (تعداد حرکات موجود در بازي آلفاگو از تعداد اتم‌هاي دنيا بيشتر است).

نظر متخصصان

باز به پرسش اساسي برمي‌گرديم: آيا بايد نگران باشيم؟ احتمالا خير. نام‌هايي که در بالا به آن‌ها اشاره شد، هيچ‌کدام متخصص هوش مصنوعي نيستند و اگر از استادان امر بپرسيد، احتمالا پاسخي متفاوت‌ دريافت مي‌کنيد. مارک بيشاپ، استاد پردازش شناختي در دانشگاه گلداسميت، مانند الون ماسک، اعتقاد ندارد که هوش مصنوعي در آينده‌اي نه‌چندان دور از کنترل خارج مي‌شود. پروفسور بيشاپ از خطرات بالقوه هوش مصنوعي آگاه است، به‌ويژه اتومبيل‌هاي جنگي بدون نياز به راننده و پهپادهايي که بر نه اساس نظر انساني که بر مبناي الگوريتم شليک مي‌کنند. نگراني او بيشتر معطوف به درگرفتن نوعي مسابقه ماشين‌هاي روباتي جنگي است. اما در خصوص غلبه هوش مصنوعي بر دنيا، او مثبت‌انديش‌تر است. کريستن داوتن‌هان، استاد هوش مصنوعي، هم زياد مطمئن نيست که ما به سمت آخرالزماني که دستپخت هوش مصنوعي باشد، پيش مي‌رويم. او اعتقاد دارد پيشرفت‌ها در زمينه هوش مصنوعي در زمينه‌هاي مختلف و مجزاست؛ يعني آنچه به سيري قدرت پردازش مي‌بخشد، نمي‌تواند ماشه يک اسلحه را بکشد در حالي که مغز ما انسان‌ها قادر به انجام هر دو است! دقيقا همين نکته نشان‌دهنده محدوديت هوش کامپيوترهاست و اگر چيزي براي يادگيري رايانه محدوديت ايجاد کند، آن‌گاه يکتايي ايجاد نمي‌شود. حتي کامپيوترهايي که ياد مي‌گيرند و خود را با شرايط مختلف سازگار مي‌کنند در درون مرزهايي که برنامه‌نويس برايشان مشخص کرده است، محدود خواهند ماند. شايد تهديد اصلي ما انسان‌ها هستيم؛ کساني که از هوش مصنوعي به صورتي غيرمسئولانه استفاده مي‌کنند. فناوري يک راهکار است و اين به عهده انسان‌هاست که چگونه از آن استفاده کنند.

چالشهاي ناممکن

پروفسور داوتن‌هان يک محدوديت ديگر را هم براي هوش مصنوعي در نابودي بشر و جايگزيني خود با ما آدم‌ها بر‌مي‌شمرد: امکان برهمکنش و معاشرت اجتماعي. آدمي موجودي اجتماعي است و دائما در حال معاشرت. درک روابط اجتماعي براي ماشين‌ها بسيار عجيب و ناممکن خواهد بود. پس اگر هوش مصنوعي قرار است جايگزين موجودات دوپاي هوشمند شود، علاوه بر تبحر در جمع و تفريق آن هم با سرعت نور، بايد در مهارت‌هاي ديگري هم استاد شود. برهمکنش با کامپيوتر‌ها و روبات‌ها همواره از روابط آدمي الهام گرفته شده و يک دليل قوي پشت اين امر است: بر اساس مطالعات در گوشه و کنار دنيا، مي‌دانيم که انسان‌ها تمايل دارند با سيستم‌هاي ديجيتالي از جمله روبات‌ها و کامپيوترها به صورتي انساني و اجتماعي تعامل کنند. به بيان ديگر، ما انتظار داريم روبات‌ها بيشتر شبيه ما باشند به همين علت روي توانايي تشخيص حرکات بسيار مطالعه شده است. اما فناوري در اين مورد هنوز ابتدايي است. ما هنوز سيستمي نداريم که به‌نرمي و مانند يک انسان در محيط‌هاي پرسر و صدا درباره يک موضوع دلخواه بحث کند.

يک مشکل پايه‌اي‌تر هم وجود دارد؛ بحث‌هاي فلسفي که از باور ما به هوش مصنوعي مي‌کاهد. سه چيز وجود دارد که کامپيوترها نمي‌توانند انجام دهند؛ خودآگاهي، توانايي اکتساب شناخت و درک دنيا آن‌گونه که انسان‌ها دارند و بينشي خلاق. پس اگر يک روبات بتواند در يک مسابقه تلويزيوني پرسش و پاسخ برنده شود، همان‌طور که کامپيوتر واتسون متعلق به شرکت «آي‌بي‌ام» در سال 2011 برنده شد، ما نمي‌توانيم انتظار داشته باشيم کامپيوترها سمفوني بنويسند يا يک نمايش را کارگرداني کنند. به صورت خلاصه، هميشه فضايي بين آنچه انسان و کامپيوتر مي‌توانند انجام دهند، وجود خواهد داشت. به علت وجود اين نقص‌ها، يک سيستم پردازش مانند روبات هيچ وقت تمام رفتار‌هاي انساني را درک نمي‌کند و تقريبا هميشه به برنامه‌نويس و دستورهاي او وابسته خواهد بود. در نتيجه نمي‌تواند از دستورهاي او هم سرپيچي و با قصد قبلي، برخلاف نظر رئيس برنامه‌نويسش، عمل کند.

آيا بايد نگران باشيم؟

بر اساس آنچه کامپيوتر‌ها انجام مي‌دهند، جايگزيني ما با آن‌ها در مواردي در حال شروع است مثل ماشين‌هاي بي‌نياز از راننده، پاسخ به سوالات به وسيله اپ‌هاي توصيه‌کننده پزشکي و حقوقي و... اما اين سطحي از هوشمندي نيست که باعث نگراني ما شود و بر اساس نظرات متخصصين، نيازي نيست آن‌قدرها نگران کامپيوترها باشيم. اگرچه هوشمندي کامپيوترها و شبکه‌هاي نوروني آن‌ها روز به روز ارتقا مي‌يابد اما هنوز محدوديت‌هايي پايه‌اي در اکتساب يکتايي براي رايانه‌ها وجود دارد که البته خبر خوبي براي ماست. آنچه اهميت دارد، مسئوليت انساني است. سوءاستفاده از هوش روباتيک توسط خود ما آدم‌ها - و نه يک الگوريتم ديجيتالي - مي‌تواند خسارت‌هاي زياد و جبران‌ناپذيري ايجاد کند. پس به نظر مي‌آيد احتمال نابودي بشريت به دست خودش بسيار بيشتر از انقراض توسط يک ابرکامپيوتر ابرهوشمند خواهد بود.

منبع: ماهنامه دانش بنیان

تاریخ انتشار : 1395/04/29
کد : 70583
تعداد بازدید: 48

    تمامی حقوق متعلق به این سایت برای بنیاد ملی نخبگان محفوظ می باشد
آدرس: خیابان آزادی- بین خیابان نواب و رودکی- جنب کوچه طاهرنیا- پلاک 209 تلفن: 63478000 - 09601