از همجوشی حسگرها تا سلاح خودکار؛ مرزهای اخلاقی هوش مصنوعی نظامی

در سامانه‌های دفاعی، حسگرها داده‌هایی از تصویر، صدا، موقعیت و حرکت جمع می‌کنند. همجوشی حسگرها این داده‌ها را کنار هم می‌گذارد تا تصویر دقیق‌تری از محیط ساخته شود. هوش مصنوعی می‌تواند در کشف الگو، اولویت‌بندی هشدار، نگهداری تجهیزات و شبیه‌سازی سناریوها به تصمیم‌گیر کمک کند.

اما میان «تصمیم‌یار» و «تصمیم‌گیر خودکار» تفاوت بنیادین وجود دارد.
مدل ممکن است هدف را اشتباه تشخیص دهد، دادهٔ جعلی دریافت کند یا در شرایطی خارج از نمونه‌های آموزشی رفتار غیرقابل‌پیش‌بینی داشته باشد. در محیط جنگی، یک خطای کوچک می‌تواند پیامد جانی و سیاسی بزرگی داشته باشد. به همین دلیل، سطح اختیار سامانه باید متناسب با خطر، قابل ثبت و قابل بازبینی باشد.

حکمرانی مسئولانهٔ هوش مصنوعی نظامی به ارزیابی پیش از استقرار، آزمون در شرایط متنوع، ثبت لاگ، تیم انسانی آموزش‌دیده، امکان توقف فوری و بررسی مستقل نیاز دارد. همچنین باید قواعد حقوق بشردوستانه، تمایز میان هدف نظامی و غیرنظامی، تناسب و مسئولیت فرماندهی رعایت شود. واگذاری تصمیم نهایی به یک الگوریتم، مسئولیت اخلاقی و حقوقی را از انسان سلب نمی‌کند.

همین اصول در کاربردهای غیرنظامی نیز صادق است: سامانهٔ قضایی، انتظامی یا اداری نباید فقط به‌دلیل نمرهٔ یک مدل، دربارهٔ سرنوشت فرد تصمیم بگیرد. حق توضیح، حق اعتراض و ارزیابی تبعیض باید در طراحی گنجانده شود.

پس از هوش مصنوعی، به رسانه‌ای می‌رسیم که سال‌هاست در زندگی کودکان و بزرگسالان حضور دارد، اما هنوز گاهی ساده‌انگارانه تحلیل می‌شود: بازی‌های رایانه‌ای. در این باره در پست بعدی با هم گفتگو خواهیم کرد.