چت ربات‌های هوش مصنوعی «شکاف همدلی» دارند و می‌تواند خطرناک باشد!
تحقیقات جدید در دانشگاه کمبریج یک «شکاف همدلی» قابل توجه در چت ربات‌های هوش مصنوعی را شناسایی می‌کند
که برای کاربران جوانی که اغلب این سیستم‌ها را محرمانه‌ای واقعی می‌بینند، خطراتی ایجاد می‌کند.
این مطالعه با برجسته کردن حوادثی که در آن تعاملات هوش مصنوعی منجر به پیشنهادات ناامن شده است،
از رویکردی پیشگیرانه برای ایمن کردن هوش مصنوعی برای کودکان حمایت می کند.
این یک چارچوب جامع 28 موردی را پیشنهاد می‌کند تا به ذینفعان، از جمله شرکت‌ها و مربیان کمک کند تا اطمینان حاصل کنند
که فناوری‌های هوش مصنوعی به‌طور مسئولانه به نیازها و آسیب‌پذیری‌های منحصربه‌فرد کودکان پاسخ می‌دهند.
یک مطالعه جدید چارچوبی را برای “هوش مصنوعی ایمن کودک” در پاسخ به حوادث اخیر نشان می دهدکه بسیاری از کودکان چت بات ها را شبه انسانی و قابل اعتماد می دانند.
این تحقیق توسط دکتر نومیشا کوریان، یکی از دانشگاه‌های دانشگاه کمبریج، از توسعه‌دهندگان و سیاست‌گذاران می‌خواهد
تا رویکردهای طراحی هوش مصنوعی را که بیشتر نیازهای کودکان را در نظر می‌گیرند، اولویت‌بندی کنند.
این شواهدی را ارائه می‌کند که نشان می‌دهد کودکان به‌ویژه مستعد برخورد با چت‌بات‌ها به‌عنوان افراد محرمانه و شبه انسانی هستند
و تعامل آن‌ها با این فناوری زمانی که نتواند به نیازها و آسیب‌پذیری‌های منحصربه‌فرد آن‌ها پاسخ دهد، می‌تواند خراب شود.
این مطالعه این شکاف در درک را به موارد اخیر مرتبط می‌کند که در آن تعامل با هوش مصنوعی منجر به موقعیت‌های بالقوه
خطرناک برای کاربران جوان شده است. اینها شامل یک حادثه در سال 2021 است، زمانی که دستیار صوتی هوش مصنوعی آمازون،
الکسا، به یک کودک 10 ساله دستور داد تا یک دوشاخه برق را با یک سکه لمس کند.
سال گذشته، هوش مصنوعی اسنپ چت به محققان بزرگسالی که در نقش یک دختر 13 ساله ظاهر شده بودند،
نکاتی را در مورد چگونگی از دست دادن باکرگی خود برای یک دختر 31 ساله ارائه کرد.
هر دو شرکت با اجرای اقدامات ایمنی پاسخ دادند، اما این مطالعه می‌گوید که برای اطمینان از ایمن بودن هوش مصنوعی برای کودکان،
در درازمدت نیز نیاز به اقدام پیشگیرانه وجود دارد. این یک چارچوب 28 موردی برای کمک به شرکت‌ها، معلمان،
رهبران مدارس، والدین، توسعه‌دهندگان و بازیگران سیاست ارائه می‌کند که به طور سیستماتیک
در مورد چگونگی ایمن نگه داشتن کاربران جوان‌تر هنگام صحبت با ربات‌های چت هوش مصنوعی فکر کنند.
اشتراک گذاری
