آیا میتوانیم به ربات ها اعتماد کنیم؟

ماشین‌های بدون راننده یا ربات ها، دستیاران شخصی، ربات‌های تمیزکننده، خانه‌های هوشمند و …،  اینها همه نمونه‌هایی از سیستم‌های اتوماتیک هستند.

بسیاری از چنین سیستم هایی که در حال حاضر یا استفاده می شوند یا در حال توسعه هستند.

یک سوال در ذهن همه کاربران ایجاد می کنند: چگونه به این سیستم‌ها اعتماد کرده اید؟

بحث اصلی اما این است که داشتن سیستم های قابل اعتماد و کارآمد کافی نیست.

برای اعتمادسازی، طراحی سیستم‌های خودکار باید موارد دیگری را نیز در نظر بگیرد، از جمله ظرفیت تصمیم‌ها و تغییرات و داشتن نقشه‌های جایگزین برای زمان‌هایی که دچار مشکل می شویم. انجام یک کار خوب به تنهایی کافی نیست. در چند سال گذشته شاهد پیشرفت های چشمگیری در جایگزینی سیستم های خودکار بوده ایم. این سیستم‌ها، اساساً سیستم‌های نرم‌افزاری هستند که تصمیم می‌گیرند و بر اساس آن‌ها عمل می‌کنند و نتاج آن در دنیای واقعی وجود دارد.

این سیستم ‌ها شامل سیستم‌های فیزیکی مانند ماشین‌های بدون راننده و ربات‌ها و نرم‌افزارهایی مانند دستیارهای شخصی است. با این حال، مهندسی سیستم های مستقلی که به خوبی کار می کنند کافی نیست. ما همچنین باید در نظر بگیریم که افراد به چه ویژگی های اضافی نیاز دارند تا به چنین سیستم هایی اعتماد کنند.

به عنوان مثال، یک دستیار شخصی را در نظر بگیرید. فرض کنید دستیار شخصی در آزمون عملکرد خود نمره بالایی گرفته است.

آیا به آن اعتماد خواهید کرد؟

برای ایجاد بستری برای اعتمادسازی به یک سیستم، باید پیش نیازهای کلیدی اعتماد را شناسایی کنیم. سپس، باید مطمئن شویم که سیستم به گونه ای طراحی شده است که این ویژگی ها را در خود جای دهد یا خیر.

چه چیزی باعث اعتماد ما می شود؟

در حالت ایده آل، ما با استفاده از آزمایشات به این سوال پاسخ می دهیم. می‌توانیم از مردم بپرسیم که آیا مایلند به یک سیستم هوشمند اعتماد کنند یا نه.سپس می توانیم بررسی کنیم که چگونه این اعتماد، بستگی به عوامل مختلف دارد.

آیا ارائه هرنوع گارانتی در مورد رفتار سیستم مهم است؟

این آزمایشات هنوز انجام نشده است. بنابراین پیش نیازهایی که در ادامه مورد بحث قرار می‌گیرند، گمان‌هایی موثر و کارا هستند.

بیشتر توضیح می دهیم: اولاً، یک سیستم باید بتواند توضیح دهد که چرا تصمیمات خاصی گرفته است. توضیحات به ویژه در صورتی مهم هستند که رفتار سیستم می تواند غیر شفاف باشد، اما همچنان صحیح باشد.

به عنوان مثال، نرم افزاری را تصور کنید که کار آن برنامه ریزی برای امدادرسانی به افراد هنگام بروز بلایای طبیعی است. بعضی مواقع انتخاب برخی تصمیم‌ها در نگاه اول به هیچ وجه منطقی و عقلانی به نظر نمی رسد اما به محض انجام، متوجه می شویم که درست‌ترین راهکار همین بوده است.

حال اگر ما با سیستمی خودکار طرف باشیم، اگر به کارایی و  نحوه عملکرد آن اطمینان داشته باشیم، قطعا بدون درنگ تصمیمات آن را به حالت اجرا درمی آوریم. ارائه توضیحات به افراد امکان این را می دهد تا سیستم ها را درک کنند.

در نهایت، سوالات گسترده تری وجود دارد.

اولاً، چه تصمیماتی را مایلیم به نرم افزار واگذار کنیم؟

ثانیا، چگونه جامعه باید آماده شود تا به پیامدهای متعددی که با استقرار سیستم‌های خودکار پیش خواهد آمد، پاسخ دهد.