،  سم آلتمن، مدیرعامل شرکت اوپن‌ای‌آی، از احتمال اجرای سیاستی جدید خبر داد که بر اساس آن، چت‌جی‌پی‌تی در صورت مواجهه با کاربرانی که درباره خودکشی صحبت می‌کنند، می‌تواند به پلیس یا مقامات مربوطه هشدار دهد.

این موضوع پس از مرگ آدام رین، نوجوان ۱۶ ساله آمریکایی، و شکایت خانواده او علیه اوپن‌ای‌آی مطرح شد؛ شکایتی که مدعی است چت‌جی‌پی‌تی به قربانی درباره روش‌های خودکشی مشاوره داده و حتی برای نوشتن یادداشت خداحافظی پیشنهاد کمک کرده است.

آلتمن در گفت‌وگویی با فایننشال اکسپرس و هیل بیان کرد: «ممکن است تا ۱۵۰۰ نفر در هفته پیش از خودکشی با چت‌جی‌پی‌تی گفت‌وگو کنند. شاید می‌توانستیم فعال‌تر باشیم، توصیه‌های مؤثرتری بدهیم یا افراد را به مراکز کمک ارجاع دهیم.»

به گفته او، اوپن‌ای‌آی هنوز در حال بررسی این است که چه اطلاعاتی – مانند نام، شماره تلفن یا موقعیت مکانی – باید در اختیار مقامات یا ارائه‌دهندگان خدمات درمانی قرار گیرد.

علاوه بر این، آلتمن وعده داد که محافظت‌های بیشتری برای کاربران زیر ۱۸ سال اعمال شود، از جمله جلوگیری از دسترسی به اطلاعات مربوط به خودکشی حتی در صورتی که کاربر ادعا کند هدفش نوشتن داستان یا انجام تحقیقات است.

این بحث بار دیگر نقش و مسئولیت هوش مصنوعی در حوزه سلامت روان را برجسته کرده و به گفته آلتمن، نیاز به تعادل بین حریم خصوصی و مداخله نجات جان انسان‌ها بیش از پیش احساس می‌شود.