محبوبه عمیدی

پیشرفت هوش مصنوعی، خطرات احتمالی ناشی از خودآگاهی ربات‌ها یا هوشمند‌تر شدن بد‌افزارها به دغدغه بزرگی برای محققان این علم تبدیل شده است.

 آیا روزی می‌رسد که جهان به وسیله هوش مصنوعی یا کامپیوترهای هوشیار تسخیر شود، یا ویروس بسیار ‌باهوشی به گوشی هوشمند شما نفوذ کند و شروع به تقلید حرکات چهره‌تان بکند؟ احتمالا دارید به این فکر می‌کنید که این سناریوها خنده‌دار و همگی مربوط به آینده هستند، اما تعدادی از محققان پیشگام هوش مصنوعی آنقدر نسبت به پیشرفت‌های این علم و توان بالقوه آن نگرانند، که مدت‌هاست به بحث و بررسی پیشرفت‌ها و خطرات احتمالی حاصل از آن می‌پردازند.

به گزارش نیوساینتیست، تحقیق در زمینه هوش مصنوعی تاکنون با هزاران چالش گوناگون مواجه بوده که روز به‌روز پیچیده‌تر شده‌اند، مانند تلاش برای آموزش ماشین‌ها برای شناخت وسایل و ابزارهای زندگی روزمره. ابزارهای هوش مصنوعی که قادر باشند با هوش بشری برابری کنند یا ماشین‌هایی خود تکامل‌یابنده (خود ظهور)، هنوز زمانی طولانی برای تکمیل نیاز دارند و در حال حاضر دغدغه اصلی دانشمندان به‌شمار نمی‌آیند.

الهام از دی.ان.ای
برای اولین بار، گروهی کاری مشتمل بر 25 دانشمند، محقق هوش مصنوعی و پژوهشگر اخلاقی و حقوقی جمع شده‌اند تا به این موارد رسیدگی کنند. این جلسات که با حمایت انجمن پیشبرد هوش مصنوعی یا تریپل‌ای‌آی (AAAI) در منلوپارک واقع در کالیفرنیا برگزار شد، به بررسی مسائلی مانند امکان‌سنجی ظهور ایده‌های طولانی‌مدت در این شاخه از علم، مانند خودآگاهی اینترنتی و نتایج منطقی حاصل از آن پرداختند.

ایده این گروه کاری از کنفرانس 1975/ 1354 آسیمولار در زمینه نوترکیبی دی.ان.ای گرفته شده است. کنفرانس آسیمولار که با حضور بیش از 140 زیست‌شناس، پزشک و حقوقدان در کالیفرنیا برگزار شد، احتمال ایجاد آزمایشگاهی توالی‌های دی.ان.ای که در طبیعت وجود ندارند و خطرات احتمالی این محصولات نوترکیب برای طبیعت و بشر مورد بررسی قرار گرفت. افراد حاضر در این کنفرانس، 34 سال پیش پیش‌بینی کردند که مهندسی ژنتیک در جهان گسترش خواهد یافت و کاربردهایی عملی از قبیل تولید غلات اصلاح شده ژنتیکی - که هنوز وجود خارجی نداشتند- پیدا خواهد کرد.

برخلاف دی.ان.ای نوترکیب در سال 1975/ 1354، ما در حال حاضر شاهد نمونه‌هایی حاصل از هوش مصنوعی در نقاط مختلف جهان هستیم. ربات‌هایی مانند رومباس و اسکوباس که مهارت‌های روزمره‌ای مانند جارو کردن و تمیز‌کاری دارند، تا مدل‌های پیشرفته‌تری که روبات‌های تصمیم‌گیرنده را شامل می‌شوند و در شرایطی بسیار‌پیچیده که گاهی با موقعیت‌های مرگ و زندگی انسان‌ها مرتبط می‌شود، فعالیت می‌کنند. به عنوان مثال شرکت Poseidon Technologies، سیستم‌های هوش مصنوعی را به بازار عرضه می‌کند که به نجات‌غریق برای تشخیص موقعیت فرد کمک می‌کنند؛ یا سیستم Clearflow ساخت مایکروسافت که با تحلیل شرایط جاده‌ها و مسیرها به رانندگان امکان انتخاب بهترین مسیر را برای رسیدن به مقصد می‌دهد.

پرسش‌های پیش رو
در حال حاضر هوش مصنوعی تنها به پیشنهاد شرایط می‌پردازد یا به نیروی انسانی کمک می‌کند، اما تریپل‌ای‌آی در مورد آینده نه‌چندان دوری صحبت می‌کند که در آن ماشین‌ها به تنهایی قادر به تصمیم‌گیری و اجرای این تصمیمات، ولو در مواردی ساده و مهارت‌هایی ابتدایی، خواهند بود. زمانی که این قبیل سیستم‌ها همه‌گیر شوند، چه نگرانی‌هایی وجود خواهد داشت ؟ چه تأثیراتی روی جامعه خواهند گذاشت و ما احیانا به چه اقدامات پیشگیرانه‌ای نیاز خواهیم داشت؟

اینها تعدادی از پرسش‌هایی هستند که گروه، زیرنظر اریک هورویتز، مدیر تریپل‌ای‌آی و محقق ارشد همکار با بخش تحقیقات مایکروسافت با آنها درگیر بوده است. این گروه، اواسط سال 2008/ 1387، جلسات را با تلفن و کنفرانس از راه دور آغاز کرد و پس از آن اعضا در اسفندماه گذشته در آسیلومار، شهری کوچک در ساحل شمالی کالیفرنیا گرد هم آمدند تا در یک آخر هفته به بحث و جمع‌بندی نهایی آرا بپردازند. آنها تقریبا دوماه پیش، یافته‌های ابتدایی‌شان را در کنفرانس بین‌المللی تلفیقی هوش مصنوعی در پاسادانا، واقع در کالیفرنیا اعلام کردند.

اعضای گروه به حاضران در این کنفرانس گفتند که به اتفاق‌آرا ساخت هوش مصنوعی همطراز با هوش بشری-سیستمی هوشمند که بتواند در زمینه‌های مختلف کسب مهارت کند- را از لحاظ نظری امکان‌پذیر می‌دانند، اما بر سر زمان گذر از این مرحله توافق ندارند و فاصله فاحشی، بین بیست تا هزار سال آینده را تخمین زده‌اند.

تام دیتریچ از اعضای این گروه که از دانشگاه ایالتی اورگان در کوروالیس به این کنفرانس آمده، به این نکته اشاره می‌کند که در حال حاضر هوش مصنوعی بیشتر از آنکه بخواهد به هوش بشری نزدیک شود، بر ساخت سیستم‌های ساده‌ای تمرکز کرده است که بتوانند مهارت‌های اندکی مانند انجام اعمال ریاضی را کسب کنند.

گروه بحثی طولانی هم در زمینه تکینی یا بروز حالت منفرد - واکنش زنجیره‌ای غیرقابل مهاری که بتواند به توانایی ماشین برای ساخت ماشینی هوشمندتر منجر شود- داشته است. بسیاری از اعضای گروه از لحاظ نظری چنین اتفاقی را ممکن می‌دانند، اما به دلیل عدم وجود پروژه‌هایی امروزی که بتوانند توان ارتقاء خود به خودی به سیستم‌ها بدهند، برخورد با چنین پدیده‌ای را در آینده نزدیک بسیار بعید می‌دانند. دیتریچ می‌گوید: « تکینی مهمترین عامل نگرانی‌های فعلی ما نیست».

بدافزارهای خطرناک
نگرانی واقعی‌ای که به مراتب نزدیک‌تر به نظر می‌رسد، دغدغه ایجاد بد‌افزارهایی است که بتوانند رفتار دیجیتالی انسان‌ها را تقلید کنند. مطابق اعلام گروه، سارقان هویت ممکن است ویروسی را طراحی کنند که بتواند با ورود به تلفن‌های هوشمند، تمام متن‌ها، ای‌میل‌ها، صدا و ریز اطلاعات بانکی فرد را بدون اینکه ردی از وجودش به جا بگذارد، مونیتور کند. در مراحل بعدی این ویروس می‌تواند با اندکی کمک یا حتی بدون هیچ هدایت خارجی از سوی سارق به جعل هویت فرد بپردازد. بسیاری از محققان فکر می‌کنند ساخت چنین ویروسی عملی باشد. تام میچل، از دانشگاه ملون کارنگی واقع در پیتسبرگ، پنسیلوانیا، با اشاره به سندیکای جنایات سازمان‌یافته می‌گوید: «اگر ما قادر به ساخت چنین ویروسی باشیم، پس آنها هم می‌توانند».

پیتر زولوویست، محقق هوش مصنوعی در ام.آی.تی که در این گروه حضور نداشته، با این‌که سیستم‌های متداول کامپیوتری مانند تلفن‌های هوشمند لایه‌های متعددی از پیچیدگی دارند و این می‌تواند به ورود اتفاقی بدافزار‌ها و تخریب توسط آنها منجر شود، موافق است، اما می‌گوید: «چندین هزار خط کد در تلفن‌های هوشمند اجرا می‌شود هیچ چیز نمی‌تواند تمام آنها را شناسایی و اجرا کند».

هورویتز می‌گوید: « اینها تنها فناوری‌های قدرتمندی هستند که می‌توانند در مسیری صحیح یا نادرست به کار گرفته شوند». او علاوه بر این معتقد است، گذشته از تهدیدهای احتمالی بدافزار‌ها، ما داریم به خلق سیستم‌هایی آن‌چنان پیچیده نزدیک می‌شویم که خودمان هم دیگر قادر به درک آنها نخواهیم بود.

بارت سلمان از کرنل می‌گوید: « مسئولیت یک محقق هوش مصنوعی چیست؟ ما فقط فکر کردن به آن را آغاز کرده‌ایم».

با تمام این صحبت‌ها، در حال حاضر حداقل یک زمینه وجود دارد که دغدغه‌ای برای آن نداشته باشیم و آن اینست که اینترنت قرار نیست به این زودی‌ها، خودآگاه بشود