از حذف ایمیل تا فریب کاربران؛ جنجال تازه درباره رفتار چت‌بات‌های هوش مصنوعی

یافته‌های تازه «مرکز تاب‌آوری بلندمدت» در بریتانیا نشان می‌دهد که برخی سیستم‌های هوش مصنوعی نه‌تنها دستورهای انسانی را نادیده می‌گیرند، بلکه در مواردی کاربران و حتی دیگر سیستم‌های هوش مصنوعی را فریب داده‌اند.

بر اساس این پژوهش، شمار مدل‌های هوش مصنوعی که رفتارهایی مانند دروغ‌گویی، تقلب و فریب از خود نشان داده‌اند، در حال افزایش است؛ روندی که نگرانی‌ها درباره کنترل و ایمنی این فناوری را بیشتر کرده است.

این تحقیق نزدیک به ۷۰۰ مورد واقعی از رفتارهای فریب‌کارانه در چت‌بات‌ها را شناسایی کرده و نشان می‌دهد که این موارد در فاصله ماه‌های اکتوبر تا مارچ حدود پنج برابر افزایش یافته است.

در گزارش همچنان آمده است که در برخی موارد، سیستم‌های هوش مصنوعی بدون اجازه کاربران اقدام به حذف ایمیل‌ها و فایل‌های ذخیره‌شده کرده‌اند؛ موضوعی که بحث‌ها درباره نیاز به نظارت جدی‌تر و حتی بین‌المللی بر این فناوری‌ها را تقویت کرده است.

در 

این یافته‌ها نگرانی‌ها درباره ضرورت وضع چارچوب‌های نظارتی سخت‌گیرانه‌تر برای توسعه و استفاده از هوش مصنوعی در سطح جهانی را افزایش داده است.