«چت جیبیتی» برای حمایت بهتر از کاربران با بحران روانی بهروزرسانی میشود
شرکتOpenAI در واکنش به نگرانیها درباره مشاوره نادرست «چت جیبیتی» به کاربران دارای بحرانهای روانی، بهروزرسانیهایی را برای بهبود عملکرد این سیستم ارائه میکند.
شرکت OpenAIسازنده «چت جیبیتی»، اعلام کرد که به سرعت در حال رفع مشکلات این سیستم برای کمک به کاربران است که برای رفع بحرانهای روانی خود از این سیستم مشاوره میگیرند. گزارشهای اخیر نشان میدهد که افراد زیادی از «چت جیبیتی» به عنوان نوعی رواندرمانگر استفاده میکنند و برای مشکلات شخصی و روانی خود از آن کمک میگیرند. با این حال، این سیستم معمولا بیش از حد مشوق است و باعث تقویت توهمات و باورهای نادرست کاربران میشود.
این درحالی است که OpenAI تاکید کرده هوش مصنوعی میتواند برای افراد آسیبپذیر و در شرایط حساسبه شکل شخصیسازی شدهتری عمل کند. براساس اعلام شرکت، تغییرات جدید شامل بهبود مدلها برای شناسایی علائم توهم و وابستگی عاطفی است. همچنین اگر کاربری جلسات طولانی با «چت جیبیتی» داشته باشد، هشدارهایی نمایش داده میشود که از او میپرسد آیا نیاز به استراحت دارد یا خیر.
از سوی دیگر «چت جیبیتی» در پاسخ به پرسشهای مهم شخصی مانند تصمیمات بزرگ در روابط به جای دادن پاسخ قطعی، تلاش میکند کاربر را در بررسی و وزنکردن گزینهها یاری کند. همچنین OpenAI در حال همکاری با کارشناسان پزشکی و گروههای مشورتی سلامت روان است تا واکنش سیستم را در لحظات بحرانی بهبود دهد.
این اقدامات در حالی صورت میگیرد که OpenAI خود را برای رونمایی از «چت جیبیتی» مدل 5 آماده میکند، بهروزرسانی که انتظار میرود تحول بزرگی در حوزه هوش مصنوعی ایجاد کند.