بررسی اخلاقی عملکرد دو سامانه هوش مصنوعی تشخیص چهره و تصمیم‌گیری خودکار با تکیه بر حکمت عملی صدرایی

نوع مقاله : مقاله علمی پژوهشی

نویسنده

دانشگاه تهران

چکیده

این مقاله با هدف بررسی چالش‌های اخلاقی دو سامانه هوش مصنوعی «تشخیص چهره» و «تصمیم‌گیری خودکار» نگاشته شده است. روش تحقیق به‌کاررفته، تحلیل محتوا است که از طریق آن، نحوه عملکرد این سامانه‌ها و نقض اصول اخلاقی توسط آن‌ها مورد بررسی قرار می‌گیرد. اصول اخلاقی نقض‌شده شامل «انصاف»، «آزادی و اختیار»، «حریم خصوصی و حفظ اسرار»، «مسئولیت‌پذیری و پاسخ‌گویی» و «عمل به ظن معتبر» است. در ادامه، این اصول در چارچوب حکمت عملی صدرایی مورد تحلیل قرار می‌گیرند. نتایج نشان می‌دهد که در حکمت صدرایی، «انصاف» از صفات ضروری حاکم است و رعایت بی‌طرفی الزامی است؛ «آزادی و اختیار» برای تکامل و سعادت انسان اساسی است؛ «حریم خصوصی» اهمیت ویژه‌ای دارد و تجسس در آن ناپسند است؛ «مسئولیت‌پذیری و پاسخ‌گویی» از ویژگی‌های لازم رهبران است؛ و «عمل به ظن غیرمعتبر» قبیح شمرده می‌شود. بنابراین، براساس حکمت عملی صدرایی، به‌کارگیری این دو سامانه در شکل کنونی خود اخلاقاً قابل قبول نیست، مگر آنکه در طراحی یا اجرای آن‌ها تغییراتی صورت گیرد تا چالش‌های اخلاقی مذکور برطرف شود.

کلیدواژه‌ها

موضوعات


عنوان مقاله [English]

Ethical review of the performance of two artificial intelligence systems: face recognition and automated decision-making systems based on Sadrai's practical wisdom

نویسنده [English]

  • Mohammad Sajjad Zare Mirakabad
دانشگاه تهران
چکیده [English]

This paper is written with the aim of examining the ethical challenges of two artificial intelligence systems: "Face Recognition" and "Automated Decision-Making." The research method employed is content analysis, through which the operation of these systems and their violation of ethical principles are investigated. The violated ethical principles include "Fairness," "Freedom and Autonomy," "Privacy and Confidentiality," "Accountability and Responsibility," and "Acting on Reliable Assumptions." Subsequently, these principles are analyzed within the framework of Sadr-al-Muta'ali's practical wisdom. The results indicate that in Sadr-al-Muta'ali's wisdom, "Fairness" is an essential attribute of the ruler, and maintaining impartiality is mandatory; "Freedom and Autonomy" are fundamental for human development and happiness; "Privacy" holds special importance, and intrusions into it are deemed undesirable; "Accountability and Responsibility" are necessary characteristics of leaders; and "Acting on Unreliable Assumptions" is considered reprehensible. Therefore, based on Sadr-al-Muta'ali's practical wisdom, the implementation of these two systems in their current form is ethically unacceptable unless modifications are made in their design or implementation to address the aforementioned ethical challenges.

کلیدواژه‌ها [English]

  • Ethics of artificial intelligence
  • Sadrai's practical wisdom
  • fairness
  • freedom
  • privacy

مقالات آماده انتشار، پذیرفته شده
انتشار آنلاین از تاریخ 02 دی 1403
  • تاریخ دریافت: 17 مرداد 1403
  • تاریخ بازنگری: 01 آذر 1403
  • تاریخ پذیرش: 27 آذر 1403