نوع مقاله : مقاله پژوهشی
نویسنده
فلسفه هنر، دانشگاه علامه طباطبائی، تهران، ایران
چکیده
با توسعه سریع هوش مصنوعی، همسوسازی این فناوری با ارزشها امری مهم تلقی میشود. «طراحی حساس به ارزش» شیوهای عملی برای همسوسازی فناوری است که توانسته نظر بسیاری از پژوهشگران را جلب کند. هدف از این مقاله ارزیابی ad,i «طراحی حساس به ارزش» برای همسوسازی با ارزشهای اجتماعی است. در این راستا از روایت پراگماتیستی سیستمهای اجتماعیفنی به عنوان معیار ارزیابی بهره گرفته شده است. برای رسیدن به هدف پژوهش، از شیوه تحلیلی-انتقادی استفاده شده و مزایا و چالشهای این شیوه ارزیابی شدند. نتایج نشان میدهد «طراحی حساس به ارزش» چارچوب توانمندی برای همسوسازی هوش مصنوعی به دست میدهد. مهمترین نقاط قوت این شیوه شامل ارائه راهکار عملی برای همسوسازی فناوری با ارزشها، توجه به ذینفعان، عاملیت انسانی و در نظر گرفتن کل چرخه حیات فناوری است. چالشهای این شیوه شامل مواردی همچون روند طولانی همسوسازی، کنترل معنادار انسانی و مشکلات فقدان قوانین و مقررات بینالمللی با ضمانت اجرایی میشود. بررسیهای نشان میدهد چنانچه شیوههای همسوسازی بهعنوان روش خودتنظیمی در نظر گرفته شوند، در طول زمان میتوانند آثار منفی به بار آورند. همچنین برای بهرهگیری از مزایای همسوسازی با ارزشهای انسانی، تلاش برای رسیدن به قوانین و مقررات بینالمللی با ضمانت اجرایی که از قوانین و حکمرانی محلی پشتیبانی کند ضروری است.
کلیدواژهها
موضوعات
عنوان مقاله [English]
Value Sensitive Design and Value Alignment: A Pragmatist Sociotechnical System Perspective
نویسنده [English]
- Mohammad Ali Ashouri Kisomi
Philosophy of Art,, Allameh Tabataba'i University, Tehran, Iran
چکیده [English]
With the rapid development of artificial intelligence (AI), aligning this technology with human values has become increasingly essential. Value-Sensitive Design (VSD) has emerged as a practical approach to value alignment, attracting considerable scholarly attention. This article evaluates VSD as a method for aligning AI with social values, drawing on the pragmatist account of sociotechnical systems as the evaluative framework. Using an analytical-critical method, both strengths and challenges are examined. The findings show that VSD offers a robust framework for value alignment. Its strengths include providing a practical pathway for embedding social values into technology, incorporating stakeholder perspectives, recognizing human agency, and addressing the full life cycle of AI systems. Nevertheless, VSD faces significant challenges, such as the protracted nature of alignment processes, difficulties in ensuring meaningful human control, and the lack of enforceable international laws and regulations. Our analysis suggests that treating alignment methods merely as self-regulatory tools may produce long-term negative consequences. To fully realize the benefits of aligning AI with human values, it is therefore crucial to develop enforceable international frameworks that complement and support local laws and governance structures.
کلیدواژهها [English]
- Value Alignment
- Value Sensitive Design
- ٍ Ethics of AI
- Sociotechnical Systems
- Pragmatism
)