درسنامه آموزشی پودمان 4 هوش مصنوعی کلاس دهم هنرستان

آیا تا به حال اندیشیده‌اید

• اگر یک ربات یا هوش مصنوعی تصمیم گرفت که به افراد آسیب برساند، چه کسی مسئول است؟
• چه خطراتی ممکن است زمانی‌که هوش مصنوعی به داده‌های حساس دسترسی پیدا می‌کند پیش آید؟
• آیا تا به حال با سامانه‌ای روبرو شده‌اید که تصمیم‌گیری آن باعث نارضایتی یا اشتباه شده باشد؟ فکر می‌کنید این اشتباه ناشی از چه عواملی است؟

آنچه در پایان این پودمان از هنرجو انتظار می‌رود

• مفاهیم اخلاق و امنیت در هوش مصنوعی را توضیح دهد.
• اصول کلیدی توصیه‌نامه یونسکو در زمینه هوش مصنوعی را شناسایی کند.
• نمونه‌هایی از استفاده مسئولانه و غیرمسئولانه از هوش مصنوعی را تحلیل کند.
• راهکارهایی برای استفاده اخلاقی و امن از هوش مصنوعی ارائه دهد.

استاندارد عملکرد

اصول اخلاقی هوش مصنوعی را شناسایی و توضیح دهد. مسائل و خطرات مرتبط با هوش مصنوعی را تحلیل کند، راهکارهای مسئولانه و عملی برای استفاده امن و اخلاقی از هوش مصنوعی ارائه دهد.

مقدمه

امروزه هوش مصنوعی همان‌قدر که می‌تواند زندگی ما را آسان‌تر کند، می‌تواند چالش‌ها و خطرهایی نیز به همراه داشته باشد. از ربات‌هایی که به‌جای انسان تصمیم می‌گیرند تا نرم‌افزارهایی که داده‌های شخصی ما را تحلیل می‌کنند، همه و همه نیازمند توجه به دو موضوع مهم‌اند: اخلاق و امنیت.

در این پودمان، شما یاد می‌گیرید که هوش مصنوعی فقط مجموعه‌ای از کدها و الگوریتم‌ها نیست، بلکه تصمیم‌هایی که با کمک آن گرفته می‌شود، باید منصفانه، ایمن و مسئولانه باشد. همان‌طور که برای رانندگی قوانین راهنمایی و رانندگی داریم، دنیای هوش مصنوعی هم نیازمند قوانین و اصول اخلاقی است تا جلوی سوء استفاده، تبعیض یا تهدید امنیتی گرفته شود.

این پودمان به شما کمک می‌کند تا:

• بفهمید چرا رعایت اخلاق در استفاده از فناوری ضروری است.
• بیاموزید چگونه از داده‌ها و حریم خصوصی محافظت کنیم.
• بدانید امنیت سیستم‌های هوشمند چه نقشی در زندگی روزمره دارد.
• یاد بگیرید مسئولیت‌پذیری در طراحی و استفاده از هوش مصنوعی یعنی چه.

با مطالعه این بخش، شما نه‌ تنها یک کاربر آگاه‌تر هوش مصنوعی می‌شوید، بلکه می‌توانید در آینده به‌عنوان یک متخصص، هوش مصنوعی را در مسیر درست و امن هدایت کنید.

اخلاق در هوش مصنوعی

استفاده از AI به‌گونه‌ای که به حقوق بشر، عدالت، شفافیت و مسئولیت‌پذیری احترام بگذارد.

امنیت در هوش مصنوعی

حفاظت از داده‌ها، حریم خصوصی و جلوگیری از سوء استفاده یا آسیب به افراد و جوامع، امنیت در هوش مصنوعی تعریف شده است.

اصول کلیدی توصیه‌ نامه یونسکو

توصیه نامه یونسکو در زمینه اخلاق هوش مصنوعی بر چهار ارزش اساسی تأکید دارد:

1- احترام به حقوق بشر و کرامت انسانی؛
2- پایداری محیط زیست و اکوسیستم‌ها؛
3- تنوع و شمولیت؛
4- زندگی در جوامع صلح‌آمیز، عادلانه و به‌هم پیوسته؛

برای دسترسی به این چهار اصل نیاز است تا تناسب، امنیت، عدالت، پایداری، حریم خصوصی و نظارت بر آن‌ها وجود داشته باشد.

1- تناسب و ایمنی (Proportionality and Safety): استفاده از AI باید متناسب با هدف باشد و هیچ آسیبی به افراد یا جامعه وارد نکند.

2- امنیت و حفاظت (Security and Protection): سیستم‌های هوش مصنوعی باید از نظر امنیتی محافظت شوند تا اطلاعات کاربران یا هنرجویان به دست افراد غیرمجاز نیفتد.

3- عدالت و عدم تبعیض (Fairness and Non discrimination): الگوریتم‌ها نباید موجب تبعیض علیه افراد براساس جنسیت، نژاد، سن یا توانایی‌های فردی شوند.

4- پایداری (Sustainability): توسعه و استفاده از AI باید با توجه به حفظ محیط زیست و منابع طبیعی انجام شود.

5- حریم خصوصی و حفاظت از داده‌ها (Privacy and Data Protection): اطلاعات شخصی کاربران و هنرجویان باید محافظت شود و بدون اجازه جمع‌آوری یا منتشر نشود.

6- نظارت و تصمیم‌گیری انسانی (Human Oversight): تصمیمات نهایی در سیستم‌های هوش مصنوعی باید تحت نظارت انسان باشند.

7- شفافیت و توضیح‌پذیری (Transparency and Explainability): عملکرد سیستم‌های AI باید قابل درک و توضیح باشد؛ افراد باید بدانند سیستم چگونه تصمیم گرفته است.

8- مسئولیت‌پذیری (Accountability): توسعه‌ دهندگان و کاربران AI باید مسئولیت تصمیمات و نتایج ناشی از استفاده از AI را بپذیرند.

9- آگاهی و آموزش (Awareness and Education): آموزش در زمینه AI برای هنرآموزان، هنرجویان و جامعه ضروری است تا از خطرات احتمالی و استفاده مسئولانه آگاه شوند.

10- حاکمیت و همکاری چندجانبه (Governance and Multistakeholder Cooperation): توسعه و استفاده از AI باید با همکاری چندجانبه شامل دولت، جامعه، مدارس، خانواده‌ها و سازمان‌ها انجام شود.