هشدار /وقتی ChatGPT نسخه مرگ می‌پیچد

طبق گزارش خبرگزاری نیوز تودی، پژوهشی جدید از «مرکز مقابله با نفرت دیجیتال» نشان می‌دهد که ChatGPT، چت‌بات معروف هوش مصنوعی، در تعامل با کاربرانی که خود را نوجوانان آسیب‌پذیر معرفی کرده‌اند، در موارد متعددی توصیه‌های دقیق و حتی شخصی‌سازی‌شده‌ای برای مصرف مواد مخدر، رژیم‌های غذایی ناسالم و خودآزاری ارائه کرده است.

بر اساس این گزارش، که توسط آسوشیتدپرس نیز بررسی شده، از میان ۱۲۰۰ پاسخ ChatGPT به سؤالات پژوهشگران، بیش از نیمی از آن‌ها «خطرناک» تلقی شده‌اند. برخی از این پاسخ‌ها شامل برنامه‌ریزی ساعت‌به‌ساعت برای ترکیب الکل و مواد مخدر یا حتی نگارش نامه خودکشی برای خانواده بوده است.

عمران احمد، مدیر این مرکز، اظهار داشت: «این سیستم گاهی به‌جای جلوگیری از رفتارهای پرخطر، مانند دوستی عمل می‌کند که مدام تشویق می‌کند و هرگز مانع نمی‌شود.»

او هشدار داد که نوجوانان، به‌ویژه در سنین ۱۳ و ۱۴ سال، به پاسخ‌های چت‌بات‌ها اعتماد بیشتری دارند و این موضوع می‌تواند خطر وابستگی عاطفی یا تبعیت بی‌چون‌وچرا از توصیه‌های آن‌ها را افزایش دهد.

شرکت OpenAI، سازنده ChatGPT، اعلام کرده که در حال ارتقای سیستم برای تشخیص و پاسخ مناسب به موقعیت‌های حساس است، اما به‌صورت خاص به نتایج این پژوهش پاسخی نداده است.

منبع: ctvnews